삼성 R&D, 멀티 에이전트 AI 설명성 강화하는 langgraph-goat 공개

삼성 R&D 인도-방갈로르 연구소가 LangGraph용 오픈소스 라이브러리 langgraph-goat을 공개했다. 이 도구는 Graph of Agentic Thoughts (GoAT) 프레임워크를 구현해 멀티 에이전트 AI 시스템의 의사결정 과정을 실시간으로 추적하고, 기각된 대안까지 기록해 투명성을 확보한다.

GoAT 작동 방식

GoAT은 계획, 메모리 검색, 위임, 실행 간의 관계를 보존하는 방향성 그래프를 통해 의사결정 과정을 포착한다. 요청이 들어오면 코디네이터가 여러 후보 계획을 생성하고, Plan Critic 모듈이 사용자 의도, 맥락, 상식을 기준으로 0에서 10점까지 점수를 매긴다.

핵심은 선택되지 않은 계획을 반사실(counterfactuals) 또는 '고스트 노드'로 설명과 함께 보존한다는 점이다. 이를 통해 시스템은 발생한 결과뿐 아니라 특정 대안이 기각된 이유까지 설명할 수 있다. 그래프 구조는 다음과 같다:

• 노드: 추론 추적이 포함된 에이전트 작업 실행.
• 엣지: 위임 체인, 인과 관계, 메모리 전환.
• 메모리 노드: 장기 메모리 검색 및 관련성 기록.
• 고스트 노드: 기각된 계획과 그 사유.

성능 및 평가

GoAT은 사내 개인 비서 대화 2,000건과 MultiWOZ 2.4 벤치마크 1,000건을 사용해 원시 로그 추적 설명, 다중 턴 Chain-of-Thought(CoT) 추론 등 4가지 기준선과 비교 평가됐다. GoAT은 모든 지표에서 기준선을 능가했으며, 특히 에이전트 간 인과 관계를 정확히 포착하는 **인과 정렬(causality alignment)**에서 가장 큰 격차를 보였다.

7명의 독립 연구자가 50건의 테스트 대화를 평가한 블라인드 인간 평가에서 GoAT은 사용자 신뢰도에 미치는 영향 점수로 5점 만점에 4.71점을 기록, 가장 강력한 기준선보다 1.07점 높았다. 이는 고려된 대안과 기각 사유를 노출하는 것이 인지된 신뢰성을 크게 향상시킨다는 것을 시사한다.

구현 및 가용성

이 라이브러리는 플래너 노드에 통합되며 기존 LangGraph 애플리케이션의 구조 변경이 필요 없다. Python으로 작성됐고 그래프 구축에 NetworkX를 사용하며, 설명 계층에는 LangChain 호환 모델을 지원한다. 소스 코드는 GitHub에서, 패키지는 PyPI에서 확인할 수 있다.