카카오페이, AI Agent의 핵심 개념과 아키텍처 키워드 정리

카카오페이 FE 개발자가 AI Agent를 개발 워크플로우에 도입할 때 필요한 핵심 개념과 아키텍처 키워드를 정리했다. LLM은 입력을 받아 출력을 내는 상태 없는 함수로 비유되며, AI Agent는 목표를 받아 계획을 수립하고 도구를 호출해 업무를 완수하는 '몸'에 해당한다.

Agent 작동 원리와 ReAct 패턴

Agent는 ReAct(Reasoning + Action) 패턴을 기반으로 작동한다. 이는 추리(Reasoning)와 행동(Action)을 반복하며 정보를 획득하고 작업을 수행하는 구조다. 최근 모델들은 네이티브 함수 호출(tool calling)을 지원하지만, '판단-행동-관찰-재판단'이라는 기본 뼈대는 동일하다. 루프 종료 기준으로는 모델의 자체 완료 선언, 최대 반복 횟수 또는 토큰 예산 초과, 외부 검증 통과 등이 있다.

토큰과 컨텍스트 윈도우의 중요성

비용과 성능 관리를 위해 **토큰(Token)**과 컨텍스트 윈도우(Context Window) 이해가 필수적이다. 토큰은 모델이 텍스트를 처리하는 최소 단위로, 한글은 영어보다 토큰 수가 몇 배로 늘어날 수 있어 비용 관리에 주의해야 한다. 컨텍스트 윈도우는 시스템 프롬프트, 대화 기록, 도구 결과 등 한 번의 호출에 포함되는 총 토큰량으로, 이 한계를 초과하면 이전 정보가 손실되거나 오류가 발생할 수 있다.