AI 에이전트용 프록시 서버 Plano 공개

Plano는 에이전트 애플리케이션을 프로덕션 환경으로 전환할 때 발생하는 라우팅, 가드레일, 관찰 가능성(Observability) 등의 복잡한 인프라 문제를 해결하기 위한 AI 네이티브 데이터 플레인입니다.

Envoy 프록시를 기반으로 Rust로 작성되었으며, 애플리케이션 코드와 분리된 out-of-process 방식으로 동작하여 특정 언어나 프레임워크에 종속되지 않는 것이 특징입니다.

핵심 기능:

• 오케스트레이션(Orchestration): 경량 LLM을 사용하여 에이전트 간의 저지연 라우팅을 수행합니다.
• 모델 민첩성(Model Agility): 모델을 별칭(Semantic name)으로 관리하여 코드 수정 없이 모델 교체가 가능합니다.
• 에이전틱 시그널(Agentic Signals): OpenTelemetry를 통해 트레이스와 메트릭을 자동으로 수집합니다.
• 필터 체인(Filter Chains): 탈옥 방지 및 모더레이션 정책을 일관된 방식으로 적용합니다.

사용자는 YAML 설정을 통해 에이전트를 선언하고, OpenAI 호환 API를 사용하는 에이전트들을 Plano를 통해 통합 관리할 수 있습니다.