컨텍스트 엔지니어링의 부상

컨텍스트 엔지니어링은 LLM이 작업을 수행할 수 있도록 올바른 정보와 도구를 적절한 형식으로 제공하는 동적 시스템을 구축하는 것을 의미한다.

대부분의 에이전트 실패 원인은 모델에 적절한 컨텍스트, 지시사항, 도구가 전달되지 않았기 때문이다. LLM 애플리케이션이 단일 프롬프트에서 복잡한 에이전트 시스템으로 진화하면서, 이는 AI 엔지니어가 갖추어야 할 가장 중요한 스킬이 되고 있다.

컨텍스트 엔지니어링은 다음과 같은 특징을 가진다.

• 시스템: 개발자, 사용자, 이전 상호작용, 도구 호출 등 다양한 소스에서 컨텍스트를 수집한다.
• 동적성: 컨텍스트가 동적으로 유입되므로 최종 프롬프트 구성 로직도 동적이어야 한다.
• 정보와 도구: LLM은 마음을 읽지 못하므로 올바른 정보와 작업을 수행할 수 있는 도구가 필수적이다.
• 형식: 인간과의 소통과 마찬가지로 LLM과의 소통 방식(형식)이 중요하다.

LangGraph와 LangSmith는 이러한 컨텍스트 엔지니어링을 지원하기 위해 각각 에이전트 오케스트레이션과 모니터링/평가 기능을 제공한다.