Braintrust는 LLM 요약(facet) 방식을 통해 대규모 AI 에이전트 트레이스를 효율적으로 분석하는 'Topics' 기술을 공개했다.
Google의 AI 팟캐스트 실험과 Microsoft Copilot의 코드 인터프리터 도입 등 최신 AI 기술 동향을 정리했다.
Transformer의 QKV 프로젝션을 공유하여 KV 캐시를 획기적으로 줄이는 연구 결과를 발표했다.
Alibaba T-Head의 asllm 엔진이 오픈소스 sglang를 무단 사용하고 심각한 버그를 방치하고 있다는 분석이 제기되었다.
Microsoft가 15개 언어 지원 및 음성 복제 기능을 갖춘 TTS 모델 MAI-Voice-2를 출시했다.
Anthropic이 Claude를 활용해 소프트웨어 취약점을 자동으로 탐지하고 수정하는 오픈소스 레퍼런스 프레임워크를 공개했다.
Anthropic이 사회적 대응력을 높이기 위해 프론티어 AI 개발의 검증 가능한 일시 중단을 제안했다.
Anthropic은 AI가 스스로를 설계하고 개발하는 재귀적 자기 개선 단계로 나아가고 있다고 밝혔다.
Claude Code의 시스템 프롬프트가 개선되었으며, Storybook 및 패키지 기반의 /design-sync 스킬이 추가되었습니다.
생성형 AI가 설계한 유전 서열을 빠르고 정확하게 구현하는 새로운 DNA 합성 기술 'Sidewinder'가 개발되었다.
DeepLearning.AI에서 vLLM을 활용한 효율적인 LLM 추론 최적화 과정을 공개했다.
28가지 LLM 신뢰성 기법을 통합하여 추론 비용을 최대 56% 절감하는 오픈 소스 라이브러리 agentcodec이 공개되었습니다.
OpenAI가 ChatGPT의 메모리 신선도와 관련성을 높이기 위해 'Dreaming' 기반의 새로운 메모리 합성 시스템을 도입한다.
예측 모델을 활용해 LLM의 KV 캐시를 최대 4배까지 무손실로 압축하는 Speculative KV coding 기술을 소개한다.
Huawei가 vLLM의 용량과 처리량을 동시에 개선하는 새로운 KV-cache 양자화 백엔드 KVarN을 공개했다.
Qwen, DeepSeek 등 최신 모델의 핵심 학습 기법인 On-policy distillation(OPD)을 소개한다.
ServiceNow가 3개 기업 도메인을 포함한 음성 AI 에이전트 평가용 데이터셋 EVA-Bench 2.0을 공개했다.
AI Briefing