신흥 멀티 에이전트 시스템의 패턴과 문제점

에이전트 간 상호작용이 급증함에 따라 **멀티 에이전트 시스템(Multi-agent systems)**의 협업 패턴과 잠재적 위험을 분석한다.

핵심 문제 제기

• 시스템적 위험: 개별 에이전트의 환각(Confabulation)이나 보상 해킹(Reward hacking) 같은 특성이 복합적으로 작용하여 예측 불가능한 글로벌 실패를 초래할 수 있다.
• 협업의 과제: 현재 에이전트들은 서로를 단순한 도구(Tool)로 취급하고 있으나, 향후에는 고유한 목표를 가진 동료(Peer)로서 협업하는 능력이 필수적이다.

소프트웨어 취약점 탐지 실험 에이전트의 협업 능력을 측정하기 위해 소프트웨어 취약점 탐지 작업을 수행했다.

• 병렬 방식 (Parallel Approach): 각 에이전트에게 특정 코드 영역을 할당하여 독립적으로 수행.
• 협업 스웜 방식 (Coordinating Swarm): 45개의 에이전트에게 가상 머신(VM)과 공유 포럼을 제공하고, 중재자(Arbiter) 에이전트를 통해 협업 및 검증 유도.

실험 결과 (Claude Mythos Preview 기준)

• 병렬 방식: 650만 토큰 소모 시 21개의 취약점 발견.
• 협업 스웜 방식: 2,700만 토큰 소모 시 266개의 취약점 발견.

스웜 방식은 토큰 소모량이 많지만, 지정된 영역을 넘어 훨씬 광범위한 취약점을 찾아내는 등 협업을 통한 탐지 성능의 비약적 향상을 입증했다.