구글 연구진, LLM 에이전트용 '절차 그래프' 공개… 실패 궤적 분석으로 스스로 진화

Google, Georgia Tech, Peking University 연구진이 LLM 에이전트를 위한 **Procedural Graph(절차 그래프)**를 제안했다. 이는 지식 그래프가 (개체, 관계, 개체)로 사실 지식을 관리하듯, (절차, 관계, 절차) 삼중항으로 절차적 지식을 명시적으로 저장하는 구조다.

핵심 작동 원리

• 명시적 절차 관리: 기존 에이전트가 누적된 히스토리에 의존해 암묵적으로 행동을 결정하던 방식과 달리, 다음에 무엇을 해야 하는지 순서와 조건을 그래프로 쿼리할 수 있게 한다.
• 상황별 가이드 제공: 각 단계에서 에이전트의 현재 노드를 위치시키고, 주변 서브그래프를 바탕으로 다음 행동을 유도하는 '상황별 가이드'를 생성한다. 이는 강제 명령이 아닌 편향(bias)으로 작용하여 그래프가 틀렸을 때 에이전트가 유연하게 이탈할 수 있게 한다.

자기 진화(Self-Evolving) 메커니즘

• 실패/성공 궤적 비교: LLM 리파이너(refiner)가 실패한 궤적과 성공한 궤적을 대조하여 그래프의 위상 구조와 속성을 수정한다.
• 보류된 검증 게이트: 수정 사항은 홀드아웃 검증 성능을 유지하거나 개선할 때만 커밋된다. 거부된 수정은 기록되어 동일한 변경이 반복 제안되는 것을 방지한다.

성능 및 의의

• 최소한의 스켈레톤에서 시작해 수동으로 설계된 그래프와 동등하거나 더 나은 성능을 달성한다. 또한 결함이 있는 전문가 사전 지식을 교정하는 능력도 입증했다.
• 다양한 데이터셋과 백본 LLM에서 메모리 기반 베이스라인 대비 일관된 성능 향상을 보였으며, 수동 엔지니어링 없이도 자기 진화를 통해 성능이 추가적으로 향상된다.