PyTorchKR 읽을거리 뉴스
PyTorchKR 읽을거리에서 수집한 AI·개발 최신 뉴스와 한국어 요약입니다.
원문 사이트 방문 →whatsapp-mcp, 전송 기능 배제한 WhatsApp 대화 검색 MCP 서버 공개
Cloudflare Workers 기반 셀프 호스팅으로 WhatsApp 대화를 읽기 전용으로 검색하게 한다.
vLLM Semantic Router 벤치마크: 전환 시 지연 550ms 절감, 경계 전 선택 시 성공률 100%
에이전트 모델 전환 시 KV 캐시 한계와 대화 상태 관리 전략을 벤치마크로 제시했다.
AAIF, Agent Skills와 Open Responses 등 4개 프로젝트 합류로 규모 10개로 확대
Linux Foundation 산하 AAIF가 4개 프로젝트를 추가하며 호스팅 규모가 10개로 늘었다.
PyMuPDF 2.0, PDF 전처리 패키지 3종 통합 및 GNN 레이아웃 분석 기본 적용
PyMuPDF 2.0이 3개 패키지를 통합해 GPU 없이 PDF를 LLM용 데이터로 변환한다.
PyTorch 2.15, Mac GPU MoE 디코딩 5~6.5배 향상 및 FP8 지원
PyTorch 2.15가 Mac GPU MoE 디코딩을 5~6.5배 향상시키고 FP8을 지원한다.
DeepInfer 오프라인 공개, 디코드 Wide-EP 구성 및 운영 지표 공유
DeepSeek이 V4.1-Flash용 추론 프레임워크 DeepInfer의 오프라인 추론 코드를 공개했다.
TorchTPU와 TorchTitan, Llama 3 405B 학습에서 50% 이상 MFU 기록
TorchTPU와 TorchTitan이 대규모 LLM 학습에서 50% 이상 MFU를 달성했다.
gitai v0.1.0, 에이전트 100개 배칭 활성화 시 분당 257.6건 병합 처리
Anthropic Scion의 공개된 설명을 참고해 만든 비공식 오픈소스 Git 서버 gitai v0.1.0이 공개됐다.
Google Cloud AI Research 외, Harness² 공개: 정답 라벨 없이 에이전트 성능 11.5점 향상
정답 라벨 없이 에이전트 하네스를 재귀적으로 개선해 벤치마크 점수를 최대 11.5점 높였다.
Helion vLLM 백엔드, H100 일부 워크로드서 10% 이상 처리량 향상
Helion vLLM 백엔드가 H100 일부 워크로드에서 10% 이상 처리량 향상을 달성했다
SJTU 등 21명, LLM 에이전트 외부화 통합 리뷰 논문 공개
LLM 에이전트 능력 향상이 가중치 수정이 아닌 메모리와 스킬 등 외부화에서 비롯된다고 분석했다.
Traceway, LLM 비용 추적과 AI 에이전트 조회 통합 셀프 호스팅 관측 플랫폼
MIT 라이선스 셀프 호스팅 관측 플랫폼 Traceway가 LLM 비용 추적과 AI 에이전트 연동을 지원한다.
Anthropic 주니어 채용 27%→9% 급감, 대화형 에이전트 작업량 6배
Anthropic 주니어 기술직 채용 비중이 27%에서 9%로 줄었고, 직원이 직접 실행한 대화형 에이전트 작업량은 사람의 6배에 달했다.
LeanREA, 8KB 스킬 파일로 REA 대비 실행 시간 38% 단축 (자체 측정)
8KB 스킬 파일로 REA의 207개 MCP 도구를 대체해, 저자의 자체 벤치마크에서 실행 시간 38%와 비용 35%를 절감했다.
HybridAgent, 토큰 54.7% 절감하며 성능 10.4% 향상
HybridAgent가 성능 10.4% 향상과 비용 절감을 달성했고, Raw-RAG가 복잡한 메모리 시스템을 능가했다.
Pie, 사용자 코드로 KV 캐시·생성 루프 제어하는 LLM 서빙 공개
사용자 프로그램(Inferlet)이 KV 캐시와 생성 루프를 직접 제어해 ReACT 등 에이전트 워크로드의 지연을 최대 15% 줄이는 오픈소스 LLM 서빙 시스템 'Pie' 공개.