AI Briefing#llm-ops
#llm-ops와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.
#llm-ops와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.
HypAware가 Claude Code 세션 로그를 분석해 침묵하는 실패를 감지했다
NVIDIA가 AI 에이전트 평가 시 도구 호출 정확도 대신 과업 완수와 비용 효율성을 강조하는 새로운 프레임워크를 제시했다.
유럽·중동 기업들이 개별 에이전트 대신 중앙 플랫폼과 운영 인프라에 집중하며 프로토타입을 실제 서비스로 전환하고 있다.
LangSmith Engine이 에이전트 이슈 탐지 성능을 2배 이상, 수정 성능을 25% 개선했다.
AI 에이전트 실패를 자동 진단하고 검증된 규칙으로 복구하는 오픈소스 플랫폼 PandaProbe가 공개됐다.
vLLM 추론 성능을 진단하고 병목 지점을 찾아 최적화하는 오픈소스 도구 'Profile'이 출시되었습니다.
코딩 에이전트의 성능을 높이기 위해 모델이 아닌 컨텍스트와 도구 등 주변 환경을 설계하는 Harness Engineering의 방법론을 소개한다.
LangChain이 에이전트의 비용 제한과 데이터 보안을 관리하는 런타임 거버넌스 레이어인 LangSmith LLM Gateway를 공개했다.
Similarweb이 LangSmith를 활용해 루브릭, 충실도 검사, 트레이스 등을 통해 긴 형태의 에이전트 조사 보고서를 평가하는 방법을 설명한다.
LangSmith는 다양한 코딩 에이전트의 실행 과정을 표준화된 Trace로 시각화하여 디버깅과 성능 개선을 돕는다.
마이크로소프트가 Microsoft Foundry를 통해 엔터프라이즈 규모의 AI 에이전트를 운영하며 겪은 기술적 도전과 해결책을 다룬다.
AWS가 Claude 모델의 액세스 제어, 비용 관리 및 거버넌스를 통합 관리하는 게이트웨이 아키텍처를 공개했다.
슈나이더 일렉트릭은 LangSmith를 활용해 대규모 AI 에이전트의 관측성, 평가, 배포를 관리하는 LLMOps 체계를 구축했다.
LLM 호출 로그를 분석하여 비용을 절감할 수 있는 최적의 모델을 추천하는 로컬 오픈소스 도구입니다.
Vercel AI Gateway가 애플리케이션 코드 수정 없이 모델을 제어할 수 있는 라우팅 규칙 기능을 출시했다.
AI 에이전트의 토큰 사용량 급증에 대응하기 위해 품질 저하 없이 비용을 최적화하는 자동화된 라우팅 기술이 중요해지고 있다.
LangSmith가 개발자 워크플로우 최적화를 위해 홈페이지를 개편하고 리소스 관리 기능을 강화했다.
Replit이 LangSmith의 기능을 고도화하여 복잡한 Replit Agent의 워크플로우를 효율적으로 디버깅하고 모니터링한다.
LLMOps 플랫폼 TensorZero가 시드 투자 직후 GitHub 저장소를 아카이브하며 서비스 운영 방식을 변경함.
프로덕션 환경의 규제 준수와 비용 최적화를 지원하는 오픈 소스 멀티 에이전트 오케스트레이션 프레임워크 MeshFlow가 출시되었습니다.