효과적인 에이전트 구축

LLM agent를 만들 때는 처음부터 복잡도를 올리기보다, 가장 단순한 해법부터 시작해 성능이 실제로 좋아질 때만 구조를 추가해야 한다. Anthropic은 workflows와 agents를 구분하며, 예측 가능한 작업에는 워크플로우를, 유연한 판단과 장기 실행이 필요한 경우에만 에이전트를 권한다.

기본 블록은 augmented LLM이다. 검색, tools, memory를 붙인 LLM이 스스로 쿼리를 만들고 적절한 도구를 고르며, 필요한 정보를 유지하는 방식이 핵심이다. 이 구현은 Model Context Protocol처럼 표준화된 인터페이스를 통해 더 깔끔하게 연결할 수 있지만, 중요한 것은 특정 use case에 맞게 능력을 조정하고 문서화하는 일이다.

실전에서 자주 쓰이는 패턴은 다음과 같다.

• Prompt chaining: 한 단계의 출력이 다음 단계의 입력이 되는 구조로, 고정된 하위 작업으로 깔끔하게 분해될 때 적합하다.
• Routing: 입력을 분류해 서로 다른 프롬프트나 도구, 모델로 보내는 방식이다.
• Parallelization: 독립적인 하위 작업을 동시에 돌리거나, 같은 작업을 여러 번 실행해 결과를 집계한다.
• Orchestrator-workers: 중앙 LLM이 필요한 하위 작업을 동적으로 나누고 여러 worker에 배분한다.
• Evaluator-optimizer: 한 모델이 답을 만들고 다른 모델이 평가와 피드백을 반복해 품질을 끌어올린다.

Agents는 이런 워크플로우보다 더 자율적이다. LLM이 환경 피드백을 보며 스스로 계획하고 도구를 사용하며, 필요할 때만 인간에게 확인을 요청한다. 다만 비용과 오류 누적 위험이 커지므로, 샌드박스 환경에서 충분히 테스트하고, 명확한 tool documentation과 신뢰 가능한 **agent-computer interface (ACI)**를 갖추는 것이 중요하다.

결국 성공의 기준은 가장 정교한 시스템이 아니라 문제에 맞는 시스템이다. 단순한 prompt와 evaluation으로 해결되는지 먼저 확인하고, 그래도 부족할 때만 multi-step workflow나 agent로 확장해야 한다.