AI 에이전트의 감사 가능성을 높이는 ORCA 프레임워크

현재 대부분의 에이전트 스택은 기능 시연에는 최적화되어 있으나, 실제 운영 환경에서 요구되는 **운영 책임성(Operational Accountability)**은 부족한 실정이다. 시스템이 왜 특정 경로를 선택했는지, 결과를 재현할 수 있는지, 실행 전 통제 수단이 무엇인지 파악하기 어렵다는 점이 주요 문제로 지적된다.

ORCA는 에이전트의 동작을 단순한 프롬프트 조합이 아닌 구조화된 실행 시스템으로 설계하는 접근 방식을 제안한다. 핵심 요소는 다음과 같다:

• 명시적 단계 경계 (Explicit step boundaries)
• 타입화된 입출력 계약 (Typed input/output contracts)
• 결정론적 제어 흐름 (Deterministic control flow)
• 정책 기반 실행 (Policy-gated execution)를 통한 고위험 작업 통제
• 전체 실행 추적성 (Full execution traceability) 확보를 통한 재생 및 감사 가능성

이 프레임워크는 유연한 탐색을 위한 **'디스커버리 모드(Discovery mode)'**와 검증 및 거버넌스가 적용된 **'프로덕션 모드(Production mode)'**를 분리한다. 이를 통해 보안, 인프라, 규제 준수가 필수적인 민감한 도메인에서 AI 에이전트를 안정적으로 배포할 수 있는 기술적 가교 역할을 수행한다.