LLM 에이전트 신뢰성을 위한 FSM 설계

기존 AI 에이전트 프레임워크는 LLM이 루프 제어, 도구 선택, 실행 흐름 변경 등을 직접 수행하는 자율적 오케스트레이터 역할을 맡는다. 이는 데모용으로는 적합하지만, 규제가 엄격한 금융(KYC/AML)이나 보안(DevSecOps) 환경에서는 감사, 재현, 형식적 검증이 어렵다는 단점이 있다.

이를 해결하기 위해 LLM을 자율적인 주체가 아닌, 결정론적 FSM(Finite State Machine) 내의 제한된 연산 단위로 취급하는 새로운 런타임 모델을 제시한다.

핵심 설계 원칙:

• 결정론적 FSM 런타임: LLM은 오직 제한된 단계의 계산만 수행하며, 실행 그래프의 전환과 거버넌스 토폴로지는 시스템이 직접 제어한다.
• ProjectionLayer (Evaluator Blindness): LLM에 전체 컨텍스트를 제공하는 대신, 정제된 타겟 특정 프로젝션만 전달하여 거버넌스 메타데이터 노출을 방지하고 보안 경계를 형성한다.
• AST 기반 조건 평가: eval()이나 exec() 같은 임의의 코드 실행을 배제하고, 제약된 AST(Abstract Syntax Tree) 엔진을 통해 조건을 평가하여 보안 표면적을 최소화한다.
• 전이 엔트로피(Transition Entropy) 모니터링: 토큰 수나 지연 시간이 아닌, 실행 경로의 분산과 구조적 불안정성을 모니터링하여 시스템의 안정성을 측정한다.