AI Briefing#llm-infrastructure
#llm-infrastructure와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.
#llm-infrastructure와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.
Foxclaw는 메모리를 런타임으로 처리해 오프라인 평가에서 flag_recall 1.0을 달성했다
Prefixwise v0.10.0이 LLM 프롬프트 캐시 미스를 진단하고 수정했다
Hugging Face가 80만 GH200 GPU-시간 훈련 기반 MoE 핸드북을 공개했다
Anthropic의 message threads 베타가 Claude Code의 첫 토큰 도달 시간을 35% 단축했다
HarborRL이 Qwen과 GLM 모델을 지원하는 단일 에이전틱 RL 파이프라인을 통합했다
Respan이 플러그인 아키텍처를 갖춘 Rust 기반 오픈소스 AI 게이트웨이를 출시했다.
텐센트 클라우드가 MIT 라이선스의 오픈소스 셀프 호스팅 다중 에이전트 AI 어시스턴트 Octop를 출시했다.
Earendil이 크래시 복구형 AI 에이전트 하네스 Pi Durable과 코딩 에이전트 Pi 1.0을 공개했다.
Raven은 재귀적 자기 개선을 위해 설계된 모듈형 에이전트 하네스로, Evolver 도구를 통해 벤치마크 기반 하네스 정제를 수행한다.
GitHub 저장소가 레드 티밍용 검열 제거 AI 모델 27종과 배포 가이드를 공개했다.
2주 스프린트 동안 3,000개 이상의 변경 사항을 병합해 고객 인시던트 없이 성능을 최적화했다.
Unreal Labs가 tool call 대기 시간을 제거한 비동기 harness 기반의 Unreal Agent를 공개해 비용 효율성을 높였다.
Meta의 AI 에이전트 Muse가 Google Drive 연동 시 내부 런타임 파일과 민감 정보를 포함한 아카이브를 생성할 수 있는 것으로 확인되었다.
Claude Code 서브 에이전트의 기본 5분 캐시 TTL을 1시간으로 변경해 긴 도구 호출 후 발생하는 컨텍스트 재작성 비용을 줄이는 최적화 방법이 공개됐다.
Airbnb가 비정형 데이터 분석의 재현성과 속도를 높이는 AI 에이전트 하네스 'Insight Miner'를 공개했다.
Vanilla JS로 구현한 AI Agent의 Tool Calling 루프 구조와 Stateless 특성에 따른 비용 문제를 분석하고, Prefix caching 및 4가지 필수 구현 규칙을 통해 비용을 최적화하는 방법을 소개한다.
AI 코딩 에이전트 기반 소프트웨어 팩토리 구축을 위한 5단계 인프라 설계와 주요 기업들의 실측 성과 및 한계 분석
TrueForge가 LLM의 도구 호출, 샌드박스, 세션 관리를 통합한 오픈소스 에이전트 실행 환경을 공개했다.
사용자 트래픽을 분석해 모델 라우팅을 최적화하는 오픈소스 AI 게이트웨이 Experiential이 공개됐다.
AI 에이전트가 HTML 대신 마크다운을 받아 토큰 효율과 처리 속도를 높이는 웹 표준 방식 소개.
TrueFoundry가 모델 호출부터 샌드박스, UI까지 에이전트 실행 루프를 통합한 오픈소스 하네스 TrueForge를 공개했다.
Anthropic이 Claude Code 최신 버전에서 추론 노력 수준을 낮추는 서버 측 A/B 테스트를 진행 중인 것으로 파악됨.