LangSmith, Azure Marketplace에서 직접 구매 가능한 서비스로 출시

LLM 애플리케이션의 개발, 테스트, 모니터링을 지원하는 통합 DevOps 플랫폼인 LangSmith가 Azure Marketplace를 통해 제공됩니다. 이제 기업 고객은 Azure Kubernetes Application 형태로 LangSmith를 간편하게 구매하고 배포할 수 있습니다.

LangSmith는 다음과 같은 핵심 기능을 통해 LLM 애플리케이션의 품질을 높입니다.

• 가시성 확보: 사용자 상호작용에 대한 트레이스(Trace) 수준의 상세 정보를 제공하여 성능과 품질을 모니터링합니다.
• 테스트 및 평가: 비결정론적인 LLM의 특성을 고려한 테스트 모듈을 통해 배포 전 애플리케이션의 성능을 검증합니다.
• 협업 및 디버깅: 개발자와 전문가(PM, QA 등) 간의 프롬프트 구성 및 피드백 공유를 원활하게 합니다.
• ROI 분석: 품질, 비용, 지연 시간(Latency) 사이의 트레이드오프를 데이터 기반으로 분석할 수 있게 돕습니다.

특히 Azure Marketplace를 통해 구매할 경우, 모든 데이터가 고객의 Azure VPC 내에 유지되므로 보안 및 컴플라이언스 요구사항을 충족하며 데이터 유출 걱정 없이 안전하게 사용할 수 있습니다.