SD바이오센서, Amazon Bedrock AgentCore로 대화형 데이터 분석 에이전트 프로덕션화

SD바이오센서는 AWS 3A 프로그램을 통해 Amazon Bedrock AgentCore와 Strands Agents SDK를 활용해 대화형 데이터 분석 에이전트를 프로덕션 환경으로 전환했다. 초기 프로토타입에서 발생했던 재현성 부족, 지연 및 비용 증가, 관측성 한계를 해결하기 위해 아키텍처를 재설계했다.

멀티 에이전트에서 단일 에이전트로의 전환

초기 구조는 오케스트레이터와 여러 하위 에이전트로 구성된 멀티 에이전트 형태였으나, 컨텍스트 왕복으로 인한 지연과 토큰 비용이 문제였다. 이를 해결하기 위해 단일 에이전트 구조로 단순화하고, 결정론이 필요한 계산은 버전이 고정된 순수 함수 도구로 옮겼다. LLM은 도구 선택과 결과 요약만 담당하며, 값 계산은 코드가 수행해 재현성을 확보했다.

코드 실행 레인 분리

작업 성격에 따라 코드 실행 환경을 세 가지 레인으로 분리했다. 검증이 필요한 핵심 수치는 에이전트 프로세스 내 결정론 도구로 즉시 계산한다. 자유형 그래프 등 경량 작업은 Amazon Bedrock AgentCore Code Interpreter의 관리형 샌드박스에서 실행한다. 대규모 데이터 처리나 ML 학습 등 장시간 작업은 Amazon SageMaker Processing 잡으로 비동기 처리한다. 라우팅은 모델 판단이 아닌 사전 정의된 범위표를 통해 결정된다.

관측성 및 비동기 처리

실행 흐름은 OpenTelemetry 표준으로 계측되어 Amazon Bedrock AgentCore Observability와 Langfuse로 전송된다. 턴 종료 시 트레이스를 강제 flush해 기록 유실을 방지한다. SageMaker Processing 등 비동기 작업의 완료 알림은 Amazon EventBridge와 Lambda를 통해 DynamoDB 인박스에 적재되며, 사용자가 접속하지 않은 상태에서도 결과를 확인할 수 있다. 예약 작업은 EventBridge Scheduler를 통해 관리된다.