왜 우리는 LangChain 챗봇을 재구축했는지, 그리고 배운 것들

LangChain 팀은 내부 엔지니어들이 기술적 질문에 답하기 위해 문서, 지식 베이스, 코드베이스를 수동으로 확인하는 비효율적인 과정을 겪고 있었다. 이를 해결하기 위해 LangChain, LangGraph, LangSmith 스택을 활용해 자체 챗봇을 재구축했다.

기존 방식은 벡터 임베딩 기반 검색에 의존했으나, 이는 실제 코드 구현과 문서 간 불일치 문제를 해결하지 못했다. 팀은 직접적인 API 접근과 스마트 프롬프팅으로 방향을 전환하여, 에이전트가 실제 코드베이스와 도구를 직접 호출하도록 설계했다.

Deep Agent와 서브그래프(Subgraphs) 아키텍처를 도입해 컨텍스트 과부하 문제를 해결하고, 인간 워크플로우에 맞춘 도구 설계를 적용했다. 이를 통해 프로덕션 환경에서 신뢰할 수 있는 에이전트를 구축하는 데 성공했으며, 고객사들이 참고할 수 있는 실용적인 사례를 제공했다.