Dash가 더 똑똑한 AI를 위해 context engineering을 활용하는 법

Dash는 처음엔 문서 검색을 위한 전형적인 RAG 시스템이었지만, 이제는 내용을 찾는 수준을 넘어 해석하고 요약하고 행동까지 하는 에이전트형 AI로 진화했다. 그 과정에서 핵심 과제는 모델이 실제로 필요한 정보와 도구만 보게 만드는 context engineering이었다.

도구가 늘수록 선택지는 많아졌지만, 오히려 의사결정은 느려지고 정확도는 떨어졌다. MCP처럼 각 도구의 설명과 파라미터를 그대로 넣는 방식은 context window를 빠르게 소모했고, 긴 작업에서는 context rot까지 나타났다. Dash는 이를 해결하기 위해 다음 3가지를 중심 원칙으로 삼았다.

• 도구 정의 수를 제한한다.
• 관련성 높은 컨텍스트만 필터링한다.
• 복잡한 작업은 전용 에이전트로 분리한다.

첫 번째 전략은 검색 도구를 과도하게 늘리지 않는 것이다. Dash는 여러 외부 앱의 검색 API를 각각 모델에 노출하는 대신, universal search index를 기반으로 한 하나의 일관된 검색 도구로 통합했다. 이 방식은 모델이 여러 API 사이에서 헤매지 않게 하고, Dash MCP server처럼 외부 MCP 호환 앱에도 더 간결한 형태로 검색 기능을 제공하게 한다.

두 번째 전략은 검색 결과를 그대로 넘기지 않고, 미리 정리된 관련성 높은 정보만 남기는 것이다. Dash는 여러 소스의 데이터를 하나의 인덱스로 묶고, 그 위에 사람·활동·콘텐츠를 연결하는 knowledge graph를 얹었다. 이렇게 하면 런타임에 컨텍스트를 다시 조립하지 않아도 되어 더 빠르고, 모델은 이미 선별된 의미 있는 정보만 보게 된다.

세 번째 전략은 너무 복잡한 도구는 아예 전용 에이전트로 빼는 것이다. 특히 검색 쿼리 구성은 사용자 의도를 해석하고, 인덱스 필드에 맞추고, 오타·동의어·암묵적 맥락까지 처리해야 해서 별도 설명이 많이 필요했다. Dash는 검색을 메인 플래너에서 분리해, 메인 에이전트는 계획과 실행에 집중하고 검색 에이전트가 쿼리 생성만 맡도록 설계했다.

핵심 메시지는 명확하다. 에이전트 AI는 더 많은 컨텍스트를 넣는 문제가 아니라, 더 적절한 컨텍스트를 더 좋은 형태로 넣는 문제다. Dash는 도구 통합, 관련성 필터링, 전문 에이전트 분리를 통해 모델의 주의를 분산시키지 않고, 정말 중요한 작업에 더 많은 계산과 추론을 쓰게 만들고 있다.

앞으로는 사용자·회사 프로필, 장단기 메모리까지 포함해 더 많은 컨텍스트를 다듬는 방향으로 확장할 계획이다. 저자들은 MCP 자체는 유효하지만, 대규모로 확장하려면 도구 남발을 줄이고, 필요하면 코드 기반 도구 생성까지 활용해야 한다고 본다.