에이전트 기반 검색 모델

기존 검색은 embeddings, rerankers, 쿼리 이해, BM25를 붙인 두꺼운 모놀리스였다. 질의 분류, 백엔드 검색, 후처리와 재정렬이 각각 따로 움직였고, 각 구성요소는 전체 맥락을 보지 못했다.

반면 에이전트 기반 검색은 LLM이 검색 전체를 오케스트레이션한다. 모델은 도구와 지식을 함께 보면서 필요한 retrieval primitive를 고르고, 후보를 탐색하고, 다른 하위 에이전트나 지식베이스까지 활용해 답을 만든다.

범용 GPT-5나 Sonnet 계열은 잘 정리된 웹 검색 같은 80% 구간에는 강하지만, 나머지 **20%**의 도메인 특수성은 놓치기 쉽다. 가구 검색에서 “bistro tables”가 레스토랑 장비가 아니라 작은 야외 테이블을 뜻하는 식의 의미 차이를 일반 모델은 잘 모른다.

지금은 이런 빈틈을 메우기 위해 컨텍스트 엔지니어링으로 제약과 검증을 덧씌우지만, 그만큼 토큰과 비용이 든다. 그래서 검색에 특화된 전용 LLM이 필요하다는 주장으로 이어진다.

• SID-1은 GPT-5보다 작고 지연시간이 낮은 전용 모델로 제시된다.
• Waldo는 Glean이 내놓은 검색 전용 모델이다.
• Charcoal은 코퍼스에 맞춰 검색을 조정하는 스타트업이다.

현재는 RAG와 청크 기반 passage retrieval에서 출발하지만, 앞으로는 e-commerce나 채용 검색처럼 도메인별 에이전트 기반 검색 모델로 확장될 가능성이 크다. 기본 키워드 검색과 embedding 모델, 몇 개의 필터만 남기고 나머지는 에이전트가 조율하는 구조로 검색 스택이 단순해질 수 있다.

아직은 사이트 검색의 주력으로 쓰기엔 느리지만, 검색은 지금과 다른 형태로 재편될 것이라고 전망한다.