Anthropic MAMUBench, 메시지 가드로 실패 주문 73.1% 복구
In Anthropic's simulated group orders, making agents read their messages rescued most failures
·2026.11.13 02:31
핵심 내용
메시지 가드 적용 시 Opus 5 실패 주문 73.1% 복구 확인했다
자세히 보기
- Anthropic의 MAMUBench 시뮬레이션 그룹 주문에서 핵심 요청은 커밋된 실행의 94~99%에서 최종 주문 에이전트에 도달했으나, 체크아웃 시점에 컨텍스트에 포함된 비율은 47~67%에 불과함
- 에이전트가 모든 대기 메시지를 읽을 때까지 체크아웃을 차단하는 가드(Guard)를 추가하자, Opus 5에서 기존 실패 에피소드의 73.1%, Sonnet 5에서 62.3%를 복구함
- 가드 없이 실패한 에피소드를 재실행했을 때 Opus 5는 45.5%, Sonnet 5는 30.3%만 복구됨
- 해당 결과는 시뮬레이션 태스크의 실패 에피소드 재실행에 한정되며, 전체 주문이 아님
- 테스트는 Fable 5.2가 아닌 Opus 5와 Sonnet 5 모델로 수행됨
이 한국어 요약은 AI가 자동으로 만들었습니다. 원문의 주장과 맥락은 원문에서 확인해 주세요. 저작권은 원저작자에게 있습니다.