기술 CEO들은 AI 정신증을 겪고 있는 듯하다

Box 창업자 Aaron Levie는 CEO들이 AI 프로토타입 제작 경험만으로 에이전트가 업무 전체를 대체할 수 있다고 믿는 **'AI 과대망상'**의 위험성을 경고했다. CEO들은 코드 검토, 버그 식별, 환각(hallucination) 확인 등 업무의 **'마지막 구간(last mile)'**에 필요한 실무적 디테일을 간과하는 경향이 있다.

최근 연구들은 CEO들의 낙관론과 상충되는 결과를 보여준다:

• 생산성 역설: UC Berkeley와 NBER의 연구에 따르면 AI 도입과 총생산성 증가 사이의 명확한 상관관계가 부족하며, 체감 생산성이 실제 측정치보다 높게 나타나는 현상이 발견된다.
• 품질 및 신뢰성: MIT 연구진은 수천 개의 에이전트 테스트 결과, 많은 작업에서 여전히 인간 수준의 품질을 구현하지 못한다고 결론지었다.
• AI 워싱: 기업들이 해고의 원인을 AI로 돌리며 생산성 향상을 과장하는 'AI 워싱' 사례도 보고되고 있다.

조직 운영 측면에서도 병목 현상이 경영진의 승인 및 통제 단계로 이동하는 문제가 발생할 수 있다. 특히 AI 에이전트는 인간과 달리 평판이나 책임감 같은 자기보존 제어 장치가 없어, 오류 발생 시 조직에 파국적인 영향을 미칠 위험이 크다.