AI BriefingPyTorchKR 읽을거리 뉴스
PyTorchKR 읽을거리에서 수집한 AI·개발 최신 뉴스와 한국어 요약입니다.
원문 사이트 방문 →Hugging Face, Transformers에 GGUF 네이티브 실행 기능 추가
Hugging Face Transformers가 Apple Silicon Mac에서 llama.cpp ggml Metal 커널을 활용해 GGUF 모델을 역양자화 없이 압축 상태로 직접 추론하는 기능을 공개했다.
Convai, 텍스트 생성 없는 결정 모델 'Laya' 공개
LLM의 환각과 지연 문제를 해결하기 위해 한 번의 순전파로 확률 분포를 반환하는 Jev 호환 오픈 가중치 모델이다.
CLM-v0.1-8B 공개, Jev 대비 13배 빠른 의사결정
Qwen3-8B 기반 CLM-v0.1-8B 공개, 후보 행동 선택 속도 Jev 대비 최대 13배 향상
Liquid AI, VLM 추측 디코딩 모델 LFM2.5-VL-3B-DSpark 공개
Liquid AI가 VLM 모델 LFM2.5-VL-3B의 추측 디코딩을 위한 초안 모델 LFM2.5-VL-3B-DSpark를 공개했으며, Apple M5 Max에서 디코딩 속도를 최대 3.13배까지 향상시켰다.
이번 주 AI 논문: 루프 디코딩·자기 개선·에이전트 벤치마크
LoopCD, UniEvo-VL, SkillGym, AIM 등 성능 향상 및 에이전트 학습 관련 최신 연구 소개
UTAW, AI 업무 강화 보고서 공개
영국 기술 노동조합 UTAW가 AI 도입이 업무량을 줄이지 않고 검토 부담과 스트레스를 가중시킨다는 노동자 증언 기반 보고서를 공개했다.
llmwiki-serve 공개, Obsidian 문서를 코딩 에이전트 컨텍스트로 연결
기존 Markdown/Obsidian 문서를 수정 없이 CLI, HTTP, MCP로 코딩 에이전트에 전달하는 로컬 서버
Emacs용 ACP 클라이언트 'agent-shell' 공개
ACP 프로토콜 기반의 Emacs 패키지 agent-shell이 공개되어 19개 코딩 에이전트를 단일 UI로 제어 가능해졌다.
Figure, 휴머노이드 Helix 2.5 발표
Figure, 사람 행동 데이터 사전 학습으로 처음 보는 30개 가정에서 집안일 평균 성공률 56% 달성
vLLM, 더 넓은 GPU 지원 위해 하드웨어 독립적 계층 추가
vLLM이 H100에서 네이티브 대비 3.4% 이내 성능을 유지하며 다양한 가속기를 지원하는 하드웨어 독립적 계층을 도입했다.
vLLM, rope_scaling 덮어쓰기로 모델 36% 설정 불일치 발생
vLLM의 rope_scaling 덮어쓰기 버그로 GSM8K 점수가 최대 28% 하락하는 현상을 검증하고 방지하는 오픈소스 도구 entail을 공개했다.
vLLM, 의사결정 특화 AI 모델 'Decision 1.0' 공개
텍스트 생성 대신 후보군 중 최적 선택의 확률을 반환하는 6종의 오픈 웨이트 모델과 테스트용 Studio를 공개했다.
추천Anthropic, Claude Opus 5.5 마이그레이션 가이드 공개
Opus 5 대비 출력 속도 30% 향상, thinking 강제 활성화 및 effort 기본값 변경 등 API 구조 변화 반영
추천Trillion Labs, 자기 추측 디코딩 적용한 OCR 모델 GravityOCR 공개
GLM-OCR 기반 GravityOCR은 추가 파라미터 없이 디코딩 속도를 1.32배 높이고 정확도는 95.16점으로 유지했다.
NVIDIA, AI 에이전트 평가 지표 재정의
NVIDIA가 AI 에이전트 평가 시 도구 호출 정확도 대신 과업 완수와 비용 효율성을 강조하는 새로운 프레임워크를 제시했다.
StepFun, Step 5 Preview 공개
StepFun이 Kimi K3와 동급 지능을 1/3 비용으로 제공하는 Step 5 Preview를 공개하고 10월 15일 가중치를 오픈한다.
추천PostgreSQL 확장 pgjev 공개, 임베딩 없이 자연어 필터링 지원
임베딩이나 벡터 컬럼 없이 SQL WHERE 절에서 자연어로 행을 필터링하는 PostgreSQL 확장 pgjev가 공개됐다.
구글 리서치, RL 기반 검색 증류 기술 R4T 공개
구글 리서치와 UIUC가 RL로 학습한 질의 팬아웃 행동을 53.9M 파라미터 확산 모델로 증류해 검색 지연을 12~20배 단축한 R4T를 공개했다.
Bend 2 공개, AI 코드 규칙 위반 시 컴파일 실패하는 형식 증명 언어
AI 에이전트가 작성한 코드가 사람이 명시한 규칙(LAWS.bend)을 위반하면 컴파일이 실패하도록 설계된 형식 증명 언어 Bend 2가 공개됐다.