OECD, 에이전틱 AI 도입 현황 보고서 공개

OECD가 25개 조직의 실무자 인터뷰를 바탕으로 한 보고서 'Agentic AI in organisations'를 발간했다. 연구 결과, 자율성을 제한 없이 맡긴 조직은 없었으며, 모든 조직이 위험도가 높은 작업에는 사람의 승인을 요구하는 단계적 감독 체계를 적용하고 있었다.

주요 사용 사례와 배포 교훈

• 주요 분야: 소프트웨어 개발(코드, 테스트), 사이버보안(취약점 식별)이 중심이며, 고객 지원은 에이전트가 초안을 작성하고 상담원이 최종 검토하는 human-on-the-loop 방식이 일반적이다.
• 배포 전략: 사내 배포 후 외부 출시하는 'Customer Zero' 전략과, 반복 작업에는 저렴하고 빠른 모델을 쓰는 '최소 충분 지능(minimum viable intelligence)' 접근법이 선호된다.
• 자율성 관리: 결제나 삭제와 같은 비가역적 작업은 반드시 사람의 승인을 거치며, 자율성 수준을 5단계로 분류해 관리한다.

도입 장애물 및 위험 요소

• 기술적 한계: 긴 상호작용에서의 일관성 유지 어려움, 오행동(misaction), 멀티 에이전트 간 오류 전파 등이 주요 위험으로 지적됐다.
• 비용 및 평가: 반복 트리거로 인한 컴퓨팅 비용 예측이 어려우며, 일부 조직은 비용 초과를 경험했다. 단독 LLM 평가와 달리 에이전트 시스템 수준의 표준화된 평가 지표는 아직 미성숙하다.
• 언어 장벽: 영어 외 언어에서의 성능 격차와 '토큰화 세금'으로 인한 계산 비용 증가가 규제 준수 및 도입을 저해한다.

대응 방안 및 거버넌스

• 기술적 안전장치: 샌드박스 격리, 최소 권한 원칙, 에이전트 등록부 운영, 프로그래밍 방식 도구 호출 등을 통해 겹겹이 통제한다.
• 거버넌스: OECD AI 원칙, NIST AI RMF 등 기존 틀을 활용하되, 정적 통제에서 동적/분산 감독으로의 진화가 필요하다. 에이전트 전용 신원 분리 및 책임 귀속 체계 마련이 향후 과제다.