신뢰를 보존하는 에이전틱 AI 실행을 위한 정책 대수

LLM 기반 에이전틱 프레임워크는 주로 추론, 도구 호출, 작업 위임 등 기능적 능력을 최적화하지만, 기업 환경에서는 권한 없는 데이터 접근이나 승인되지 않은 부수 효과로 인한 실행의 신뢰성이 더 중요하다.

이 연구는 **신뢰할 수 있는 능력(reliable capability)**을 경로 속성(path property)으로 정의한다. 에이전트가 신원, 프로필, 도구, 데이터, 메모리, 예산, 산출물, 승인, 감사 등 9가지 제약 조건 하에 허용 가능한 행동 이벤트만을 통해 작업을 완료할 때 비로소 신뢰할 수 있는 능력으로 간주된다.

제안된 **정책 대수(policy algebra)**는 보안 프로필과 런타임 의무를 조인, 교차, 예산 축소, 승인 상속, 증거 축적 등을 통해 구성한다. 이 구성은 모든 지배 입력을 만족하는 가장 제한적 상태(least restrictive state)를 도출하며, 다중 에이전트 호출 시에도 제한 사항을 전파한다. 또한 예산 노출이 증가할수록 실행을 복구 가능한 결과로 전환하는 **비용 인식 산출물 물질화(cost-aware artifact materialization)**를 도입한다.

평가 결과, 정책 대수 런타임은 정책 위반 이벤트의 **94.8%**에 개입하면서도 **86.9%**의 작업 완료율을 유지했다. 관찰된 프로필 단조성 위반과 제로 산출물 고갈 위반을 제거하고, 감사 완전성을 **98.6%**까지 향상시켰다. 이 방법은 능력 벤치마크가 아닌 신뢰-능력 트레이드오프 관점에서, 형식적 정확성 조건과 실행 가능한 의사결정 의미를 제공한다.