이지에이웍스, LangGraph 워크플로우를 AgentCore Runtime으로 이관해 TTFT p95 5.5초 단축

·2026.10.26 21:09

핵심 내용

LangGraph 워크플로우 재작성 없이 이관해 고동시성 지연을 완화했다.

1 / 3

자세히 보기

  • 기존 LangGraph 워크플로우를 재작성하지 않고 Amazon Bedrock AgentCore Runtime으로 실행 환경을 이관함
  • 동시성 16 기준 TTFT p95가 기존 ECS single 대비 약 5.5초 단축되어 ECS scaleout과 대등한 성능 확보
  • 신규 세션 급증 시 pre-warmed 용량 초과로 인한 콜드 스타트 지연(9.5~10.8초) 발생, 이미지 경량화로 완화
  • Langfuse와 CloudWatch 구조화 로그를 trace_id와 job_id로 연결해 지연 및 오류 원인 추적 체계 구축

이 한국어 요약은 AI가 자동으로 만들었습니다. 원문의 주장과 맥락은 원문에서 확인해 주세요. 저작권은 원저작자에게 있습니다.

AI 처리 방식을 확인하거나, 요약 오류와 출처 표기 문제, 삭제 요청을 문의 · 건의로 알려주세요.