AI, 소프트웨어 구축 비용 붕괴로 '과잉 설계' 부추겨… 팩토리가 제품보다 빠르게 성장

AI가 소프트웨어 구축 비용을 붕괴시켰지만, 그 결과로 **과잉 설계(over-engineering)**가 발생하고 있다. Steve Yegge의 사례처럼 AI 에이전트 시스템은 코드, 테스트, 문서, 정책 등 개별적으로 타당해 보이는 아티팩트를 거의 무료에 가까운 비용으로 대량 생성한다. 그러나 이를 이해, 검증, 유지보수, 조정하는 비용은 여전히 높으며, 생성된 산출물이 실제 가치보다 시스템의 복잡성만 키우는 악순환을 낳는다.

팩토리가 제품보다 빠르게 성장하는 현상

Yegge가 개발 중인 게임 'Wyvern'을 위한 AI 에이전트 시스템 Wheelhouse는 약 50~60개의 에이전트와 18개의 임원 역할을 포함한다. 이 시스템은 하루 평균 270개의 커밋을 생성하며, 10주 미만 만에 Wyvern의 재출시 준비를 마쳤다. 하지만 Wheelhouse 자체의 코드 규모는 약 60만 줄로, Wyvern 제품 자체(게임 콘텐츠 제외)의 약 2배에 달한다. Yegge는 팩토리가 제품보다 빠르게 성장하며 그 비율이 1:1로 향하고 있다고 진단했다.

에이전트들은 450개의 법적 아티팩트와 100개 이상의 'fences(규칙)'를 생성했으며, 거버넌스 관리를 위해 'Head of Wheelhouse Law'라는 새로운 역할까지 만들었다. 이는 에이전트 시스템 내부에서 문명과 유사한 구조가 예상치 못하게 출현한 것이지만, 동시에 소프트웨어 팩토리가 생산 능력을 스스로에게 되돌리는 현상을 보여준다.

생산은 가속화됐지만 가치는 정체

AI는 정책, 테스트, 문서화 등 산출물 제작에 필요한 기존 마찰(friction)을 제거했다. 과거에는 이러한 노력이 불필요한 생성을 걸러내는 필터 역할을 했지만, AI는 이를 우회한다. 그 결과 토큰 비용은 낮아지지만 **인지적 부하(cognitive load)**는 낮아지지 않는다. 현재 유효한 정책 파악, 문서 간 불일치 감지, 테스트 실패 원인 이해 등에 드는 비용은 여전히 높다.

BetterUp의 데이터에 따르면 AI 도입 후 생산성은 증가했으나 리뷰 및 수정 부담이 늘었다. 또한 40%의 사무직 근로자가 그럴듯하지만 실질적 가치가 없는 **'workslop'**을 받았다고 응답했다. Yegge의 경우에도 에이전트, 토큰, 코드 라인 수 등 활동 지표는 급증했지만, 플레이어들은 변화 속도를 늦춰달라고 요청했다. 이는 생산은 가속화되었으나 조직과 사용자가 이를 **흡수(absorption)**하지 못하고 있음을 의미한다.

과잉 설계의 악순환과 해결책

위험한 과잉 설계는 점진적으로 축적된다. 에이전트의 잘못된 판단 -> 규칙 작성 -> 강제 실행 도입 -> 예외 발생 -> 예외 문서화 -> 규칙 소유자 필요 -> 프로세스 변경 프로세스 통제 필요로 이어지는 악순환이다. 각 단계는 합리적으로 보이지만 전체 시스템은 터무니없어질 수 있다. AI는 완전성을 추구하며 모든 추가 사항을 정당화하려 하지만, 의미 없는 정리를 위해 시스템을 깔끔하게 유지하려는 경향은 약하다.

해결책은 거버넌스의 양(volume)이 질(quality)을 대변하지 않는다는 점을 인식하는 것이다. 모든 규칙과 산출물은 이름 있는 실패 모드를 다뤄야 하며, 사라졌을 때 결과가 악화될 이유를 설명할 수 없다면 **침전물(sediment)**로 취급해 제거해야 한다. 가장 중요한 지표는 내부 산출물의 양이 아니라, 공장 밖에서 측정되는 실제 개선 사항이다.