Toast 1 소개

Mixedbread가 전문 검색 에이전트인 Toast 1을 출시했다. 이 에이전트는 프론티어 모델이 추론과 최종 답변 생성에 집중할 수 있도록, 복잡한 검색 루프를 완전히 전담한다.

핵심 기능 및 작동 방식

• 검색 루프 자동화: 초기 쿼리를 하위 쿼리로 분해하고, 증거를 수집하며, 소스를 검사한 뒤 관련 컨텍스트를 큐레이션하는 과정을 수행한다.
• 효율성 극대화: 기존 프론티어 모델 대비 최대 10배 저렴한 비용과 12배 빠른 속도를 제공한다.
• 공동 설계(Co-design): 임베딩 모델, 에이전트 하네스, 검색 프리미티브를 통합 설계하여 검색 성능을 최적화했다.

주요 벤치마크 성과

• OfficeQA Pro V2: Databricks의 벤치마크에서 작업당 약 $1.15의 비용으로 70%의 정답률을 기록하며, 품질과 효율성 모두에서 새로운 SOTA(State-of-the-art)를 달성했다.
• Legal Agentic Benchmark: 법률 지식 검색 시 토큰 사용량을 3.5배 감소시켜 60% 이상의 비용 절감을 실현하면서도 답변 품질을 유지했다.