Cohere, 에이전틱 RAG용 Rerank 5 Pro와 Fast 출시

• Cohere가 Context Focus 기능을 탑재한 Rerank 5 Pro와 Fast를 출시함. 문서 내 관련 구문을 식별하여 컨텍스트 크기를 최대 10배까지 축소함.
• 에이전틱 딥서치 벤치마크(6개 데이터셋)에서 BM25 + Rerank 5 Pro + Context Focus 전체 스택은 BM25 단독 사용 대비 토큰 사용량을 41% 절감하고 정확도를 39%에서 52%로 향상시킴. 17개 데이터셋 전체 기준으로는 토큰 사용량이 35% 감소함.
• Rerank 5 Pro는 46개 복잡한 데이터셋 중 39개에서 경쟁사를 능가하며, BRIGHT 벤치마크에서 82.2점을 기록함. 금융, 의료, 과학 분야에서 선두를 차지함.
• 모델은 Voyage AI Rerank 3 및 Rerank 4 Pro 대비 약 4배 낮은 기대 보정 오류(ECE)를 보여 훨씬 우수한 보정 성능을 입증함.

성능 및 효율성

• Rerank 5 Pro는 BRIGHT 벤치마크에서 82.2점을 기록하며, Voyage AI Rerank 3보다 5.8점, Rerank 4 Pro보다 12.4점 높음.
• Rerank 5 Fast는 단일 NVIDIA A100 GPU에서 초당 약 187개 문서를 처리하며, Pro 대비 2.9배 높은 처리량과 3배 빠른 응답 시간을 제공함.
• Pro는 100만 토큰당 $0.05, Fast는 100만 토큰당 $0.02로 가격 책정됨.

Context Focus 및 보정

• Context Focus는 에이전트가 관련 없는 텍스트 구간을 제거할 수 있게 하며, 임계값 0.4 설정 시 토큰을 34% 절감하면서 QA 작업 정확도를 58%까지 끌어올림.
• 보정된 관련성 점수는 도메인 간 일관된 필터링을 가능하게 하며, Pro의 '유용할 가능성' 문서 기본 임계값은 0.50임.
• Rerank 5 모델은 ECE가 0.057~0.058로 경쟁 모델(0.226~0.384)보다 낮아 문서 유용성에 대한 더 정확한 확률 추정을 제공함.

가용성 및 통합

• Rerank 5 Pro와 Fast는 Cohere API, Model Vault, Microsoft Foundry, Amazon SageMaker, North를 통해 정식 출시됨.
• 기존 검색 스택(키워드, 벡터, 하이브리드)과 재인덱싱 없이 통합 가능하며, LangChain, Haystack, Elasticsearch, Weaviate를 지원함.