삼성전자, LangGraph 기반 TV 앱 데이터 질의 에이전트를 Amazon Bedrock AgentCore로 프로덕션 전환

삼성전자 TV Apps Service 팀은 전 세계 200여 개국, 수천 종의 앱 데이터를 관리하는 복잡한 환경에서 LangGraph 기반의 자연어 질의 에이전트를 구축했다. 그러나 프로토타입 단계에서 멀티 데이터소스 관리, 동적 확장 불가, 블랙박스 실행, 인프라 및 메모리 관리 부담 등 프로덕션 전환을 가로막는 다섯 가지 구조적 한계에 직면했다.

이 문제를 해결하기 위해 팀은 기존 LangGraph 코드를 거의 그대로 유지하면서 운영 레이어를 Amazon Bedrock AgentCore로 교체하는 전략을 채택했다. AgentCore는 Runtime, Gateway, Memory, Identity, Observability, Evaluations, Policy 등 프로덕션에 필요한 모듈형 서비스를 제공하여, 에이전트의 로직은 건드리지 않고 인증, 라우팅, 상태 관리, 관측, 품질 관리 등을 AWS가 담당하도록 했다.

구체적으로 AgentCore Gateway는 검증계, 운영계 DB, KPI 스토어 등 파편화된 데이터소스를 MCP(Model Context Protocol) 단일 엔드포인트로 통합했다. AgentCore Memory는 멀티턴 세션 상태를 관리형으로 처리하며, AgentCore Observability는 OpenTelemetry 기반의 CloudWatch 연동을 통해 실행 과정을 투명하게 추적한다. 또한 AgentCore Policy는 Cedar 기반의 read-only 강제 정책을 적용하고, AgentCore Evaluations는 CI/CD 파이프라인과 연동해 배포 전 품질을 검증한다.

이 접근법은 특정 프레임워크에 종속되지 않으면서도 프로덕션 수준의 성능, 보안, 거버넌스를 확보한 사례로, 다른 팀이 유사한 에이전트 운영 자동화를 시도할 때 참고할 수 있는 실질적인 아키텍처와 시행착오를 담고 있다.