Cohere, 관리형 검색 플랫폼 Compass Cloud 프라이빗 베타 출시

Cohere가 자사의 검색 플랫폼 Compass의 관리형 서비스인 Compass Cloud를 프라이빗 베타로 출시했다. 기존에는 자체 호스팅이나 Cohere의 North 워크스페이스를 통해 제공됐으나, Compass Cloud는 전체 파이프라인과 모델 추론을 Cohere가 관리해 개발자가 인프라 부담 없이 애플리케이션 구축에 집중할 수 있게 한다.

엔터프라이즈 검색 과제 해결

이 플랫폼은 엔터프라이즈 검색 요구사항의 세 가지 주요 변화에 대응한다:

• 토큰 경제성: 정밀한 검색으로 관련 없는 컨텍스트를 줄여 추론 비용과 작업 완료 시간을 단축한다.
• 에이전트 접근 패턴: 에이전트가 요청을 재구성하고 여러 소스를 탐색하는 멀티홉 쿼리를 지원하며, 기계 생성 쿼리 시퀀스 전반에서 신뢰할 수 있는 성능을 제공한다.
• 분산된 스택: 수집, 인덱싱, 재순위화, 접근 제어를 하나의 통합 서비스로 통합해 통합 오버헤드를 줄인다.

풀스택 검색 아키텍처

Compass Cloud는 문서 처리와 검색을 다음과 같은 구성 요소를 갖춘 설정 가능한 서비스로 패키징한다:

• Connect: SharePoint, OneDrive, Google Drive용 기본 커넥터를 제공하며 다국어 및 멀티모달 데이터를 지원한다.
• Parse: 복잡한 문서를 구조화된 데이터로 변환하며, 모델 사용 최적화를 위해 필요할 때만 비전 처리를 사용한다.
• Embed: 의미적 의도와 정확한 용어를 모두 일치시키기 위해 밀집(dense) 및 희소(sparse) 표현을 생성한다.
• Index: 원본 파일, 파싱된 내용, 임베딩을 별도 레코드로 저장해 콘텐츠 재수집 없이 새로운 임베딩 모델을 도입할 수 있게 한다.
• Retrieve: 의미, 희소, 키워드 검색 전략을 결합하며 검색 시 권한을 강제한다.
• Rerank: Cohere의 재순위화 모델을 사용해 가장 관련성 높은 구절을 식별하고 생성 시 관련 없는 컨텍스트를 줄인다.
• Govern: 다중 테넌트 접근 제어와 문서 단위 권한을 강제하며, 보존 정책에 따라 콘텐츠 만료를 자동화한다.

성능 및 통합

Cohere 내부에서 투자 은행 질문으로 주석 처리한 High Finance 벤치마크에서 Compass는 Azure Search 대비 검색 정확도(nDCG@10)가 14~16포인트 향상되었다(64.8에서 81.1로 상승). 이러한 성과는 하이브리드 검색 기능과 Cohere의 최고 수준 검색 및 문서 처리 모델 덕분이다.

개발자는 두 가지 주요 방법으로 Compass Cloud를 통합할 수 있다:

• Compass API: 콘텐츠 표현과 랭킹에 대한 제어를 제공하는 맞춤형 RAG 및 검색 애플리케이션용.
• Model Context Protocol (MCP): 검색을 재사용 가능한 도구로 노출하는 전용 버전 관리 MCP 서버로, 에이전트가 복잡한 작업을 위해 검색 코퍼스를 점진적으로 좁힐 수 있게 한다.

프라이빗 베타는 제한된 엔터프라이즈 팀에게만 열려 있으며, Cohere의 엔지니어링 및 제품 리더십이 참여하는 라이브 세션이 10월 8일에 예정되어 있다.