#llm-ops
#llm-ops와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.
#llm-ops와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.
AI 워크플로우의 요청, 토큰 사용량, 지연 시간 및 비용을 시각화하는 관측성 도구 PromptLayer가 출시되었다.
AI 에이전트를 체계적으로 구축하고 운영하기 위한 4단계 개발 라이프사이클을 제시한다.
LangSmith Engine은 AI 에이전트의 실패 패턴을 분석하고 원인 진단부터 수정 제안까지 개발 주기를 자동화한다.
AI Gateway가 팀 단위로 사용 가능한 AI 프로바이더를 제한할 수 있는 허용 목록 기능을 지원한다.
Plano 0.4.22 업데이트로 Claude Code의 비용 및 적응형 라우팅을 모니터링하는 TUI 기능이 추가되었습니다.
AI 에이전트의 실행 추적성과 운영 책임성을 강화하기 위한 구조적 실행 시스템 ORCA를 제안한다.
LangChain이 LangSmith의 평가 및 비용 관리 기능을 강화하고, Deep Agents의 프로덕션 배포를 지원한다.
ServiceNow가 시각적 인터페이스로 합성 데이터 생성 워크플로우를 설계하는 SyGra Studio를 공개했다.
Mistral AI가 프로토타입을 넘어 실제 서비스 운영을 지원하는 프로덕션 AI 플랫폼 Mistral AI Studio를 공개했다.
LangChain의 LLM DevOps 플랫폼인 LangSmith가 Azure Marketplace를 통해 Azure Kubernetes Application으로 출시되었습니다.
LangChain이 LLM 애플리케이션 평가를 위해 여러 테스트 실행 결과를 나란히 비교할 수 있는 LangSmith의 신기능을 공개했다.