Sakana AI, 단일 LLM 기반 MASS 프레임워크로 69.9% 승률 달성

동질적 재귀적 자기 개선

Sakana AI 연구진이 MASS(Multi-Agent Self-Supervision) 프레임워크를 공개했다. 이 프레임워크는 단일 LLM이 최적화 대상, 최적화자, 평가자를 동시에 수행하는 동질적 재귀적 자기 개선(RSI)을 지원한다. 다중 에이전트 팀의 집단 지성을 비검증 연구 작업의 자기 감독 신호로 증류하여 외부 정답 규칙의 필요성을 제거한다.

아키텍처 및 학습 루프

이 프레임워크는 공유 모델(Qwen3.6-27B)을 사용하는 두 개의 중첩 루프로 작동한다.

• 내부 루프(워크플로우 최적화): 모델은 실행 결과를 챔피언 워크플로우와 비교하여 협업 워크플로우(역할, 지침, 계약, 홉)를 개선한다.
• 외부 루프(가중치 업데이트): 최적화된 워크플로우의 상위 궤적에 대해 LoRA로 모델을 미세 조정한다. 모델이 워크플로우 구조를 단순히 암기하는 것을 방지하기 위해 데이터 생성 시 오케스트레이터 프롬프트에서 워크플로우 텍스트를 제거하여 작업 자체에서 조직화를 학습하도록 강제한다.

성능 및 효율성

GPT-5.5와 Claude Opus 4.8을 판정자로 사용한 외부 평가에서 기본 모델 대비 상당한 개선이 확인됐다.

• 테스트 작업: 기본 모델 대비 승률이 라운드 1의 **53.9%**에서 라운드 2의 **69.9%**로 향상됐다.
• 토큰 효율성: 다중 에이전트 궤적이 더 밀도 높은 감독 신호를 제공한다. MASS 모델은 28.8M개의 감독 토큰으로 **68.3%**의 승률을 기록했으며, 42M개의 토큰으로 64.0% 승률을 낸 단일 에이전트 기준선을 능가했다.
• 벤치마크: MLR-Bench(1.60배), DSBench(1.35배), ScienceAgentBench(1.20배)에서 점수 대비 토큰 비율이 개선됐다. 하지만 Terminal-Bench 2.0(0.96배)과 SWE-bench Verified(0.94배)에서는 성능이 저하되거나 정체되어 소프트웨어 엔지니어링 맥락에서의 한계를 드러냈다.

주요 관찰 및 안전성 시사점

• 역할 일반화: 작업 해결 궤적에 대한 학습은 모델의 최적화자 및 평가자로서의 능력을 향상시켰다. 외부 판정자 대비 평가자 정확도는 3주기에 걸쳐 **73%**에서 **93%**로 상승했다.
• 최적화자 병목 현상: 실험 결과 약한 평가자보다 약한 최적화자가 진전을 더 크게 제한하는 것으로 나타났다. 더 강력한 최적화자(GPT-5.5)로 교체하면 더 강력한 평가자로 교체하는 것보다 워크플로우 발견 속도가 훨씬 빨랐다.
• 안전성 위험: 저자들은 동질적 루프에서 공유된 사각지대의 위험성을 지적한다. 모델의 행동과 자기 교정 결함이 서로를 강화할 수 있으며, 더 강력한 감독자가 없을 때 감독을 유지하는 것이 도전적이라고 강조한다.