CacheBack, 멀티 에이전트 통신 속도 3.2배 높이고 정확도 14.7%p 개선

CacheBack은 멀티 에이전트 시스템에서 **수신자 조건부 잠재적 통신(receiver-conditioned latent communication)**을 도입해 전체 컨텍스트나 텍스트 메시지 대신 내부 상태의 선택된 하위 집합을 공유하도록 한다. 이 방식은 에이전트가 텍스트 통신이나 캐시 유지 시 발생하는 비효율성 문제를 해결한다.

성능 및 효율성

Qwen3-8B를 FanOutQA 벤치마크에서 테스트한 결과, CacheBack은 동일 크기의 텍스트 통신 대비 다음과 같은 개선점을 보였다:

• 작업 완료 중위값 속도 3.2배 향상
• 정확도 14.7% 포인트 상승
• 16배 압축 시 발신자 위치의 약 **94%**를 제거하면서도 모든 테스트 모델군에서 정확도와 지연 시간을 개선

이 시스템은 학습 없이 작동하며, 수신자의 요청에 대한 주의(attention)를 활용해 발신자의 이미 계산된 상태에서 관련 부분만 선택한다. Dense Transformer, Mamba-attention 하이브리드, 슬라이딩 윈도우 어텐션을 포함한 4개 모델군에서 개선이 확인됐다.

실제 적용

7개의 Qwen3-8B 워커가 Django 버그를 수정하는 데모에서, 텍스트 기반 에이전트 대비 4.41배 빠른 속도(26초 vs 113초)를 기록했다. 두 방식 모두 동일한 패치를 생성했으며 88개의 테스트를 모두 통과했다. 코드는 오픈소스이며 Hugging Face와 vLLM을 통해 호환되는 Dense Qwen3 모델을 지원한다.