BotPsy 0.8B, 2.5배 큰 모델 제치고 에이전틱 벤치마크 선두

BotPsy: On-Device Personal Assistant with a Sub-Billion-Parameter Agentic Language Model

·2026.11.11 14:01

핵심 내용

BotPsy 0.8B가 더 큰 모델보다 높은 도구 사용 성능을 보였다.

1 / 8

자세히 보기

  • Tether AI Research가 Qwen3.5-0.8B 기반의 0.8B 파라미터 에이전틱 언어 모델 BotPsy를 공개함. Apache 2.0 라이선스 하에 safetensors 및 GGUF 형식으로 제공함.
  • BotPsy는 5배 큰 Qwen3.5-2B-Think를 6개 도구 사용 및 에이전틱 벤치마크 중 5개에서 능가함. BFCL v4(44.0 대 37.7)와 ToolSandbox(64.6 대 41.2)에서 우위 기록함.
  • 반복 추론 루프를 22.9%에서 1.4%로 줄이고, 지식 작업에서 정답 도출에 필요한 토큰을 기본 모델 대비 최대 3배 절감함.
  • 저중도 온디바이스 태스크를 위해 설계되었으며, 고위험 또는 안전 중요도가 높은 애플리케이션에는 사용되지 않음.

Technical Performance

  • 다중 턴 워크플로우에서 τ²-bench telecom 82.5점, 다중 턴 BFCL v4 46.1점으로 선두를 달림.
  • IFEval 90.8점, IFBench 55.9점을 기록하며 더 큰 경쟁 모델을 능가하는 지시 따르기 성능을 보임.
  • GPQA 38.1점으로 Qwen3.5-2B-Think(59.9점)보다 낮은 지식 점수를 기록함. 이는 미지 사실에 대해 도구에 의존하도록 설계된 모델의 특징을 반영함.

Methodology and Limitations

  • SFT, 멀티 티처 온-폴리시 증류, DAPO를 활용한 2회차 RL 등 4단계로 학습함.
  • 개방형 검색(BrowseComp-Plus 4.5점)과 힌디어 같은 저자원 언어(24.5점)에서 약점을 보임.
  • 평가는 씽킹 모드에서 수행되었으며, 외부 API 벤치마크는 2026년 11월 3일에 실행됨.

이 한국어 요약은 AI가 자동으로 만들었습니다. 원문의 주장과 맥락은 원문에서 확인해 주세요. 저작권은 원저작자에게 있습니다.

AI 처리 방식을 확인하거나, 요약 오류와 출처 표기 문제, 삭제 요청을 문의 · 건의로 알려주세요.