AI BriefingReddit 뉴스
Reddit에서 수집한 AI·개발 최신 뉴스와 한국어 요약입니다.
원문 사이트 방문 →Ollama VRAM 부족, 기본 설정이 원인
Ollama의 기본 컨텍스트 길이, 병렬 요청 수, 상주 모델 제한 설정이 메모리 사용량을 급증시켜 GPU 오프로드 실패의 주된 원인이 된다.
Qwen3.8-27B NVFP4 양자화 공개
QUASAR QAT 알고리즘을 적용해 Qwen3.8-27B를 NVFP4로 양자화하여 BF16급 성능을 유지하는 체크포인트를 공개했다.
Thomson, 지속적 학습으로 프런티어 성능 달성
Tri-Fair Lab이 지속적 학습을 통해 오픈 웨이트 모델의 프런티어 성능을 달성한 Thomson 모델을 공개했다.
Claude Sonnet 5, 토큰 비용 2배 증가
Claude Sonnet 5의 토크나이저 변경으로 동일 작업 시 비용이 최대 2배까지 증가할 수 있다.
앤트로픽, 사상 최고 IPO 준비
앤트로픽이 OpenAI를 제치고 세계 최고 가치 비상장 기업이 되며 역사상 가장 빠른 매출 성장과 IPO를 앞두고 있다.
LayerStoRm, 소비자 GPU LLM 서빙
PCIe 스트리밍을 활용해 소비자용 GPU에서 대규모 MoE LLM을 실행하는 오픈소스 엔진 LayerStoRm이 공개됐다.
Scaffold CoT 데이터셋 공개
5B 이하 소형 모델의 추론 정확도를 높이기 위해 400만 건 규모의 구조화된 CoT 데이터셋 'Scaffold CoT'가 공개됐다.
AI 에이전트 세션 이관 도구 공개
Claude Code의 대화 세션을 Codex, Pi, OpenCode 등 다른 AI 코딩 에이전트로 이관하는 오픈소스 CLI 도구가 공개됐다.
AQuA, LLM 에이전트 데이터 누출 방지 구조 공개
AQuA v2가 LLM 에이전트의 데이터 누출을 방지하기 위해 고정된 인과 연산자 레지스트리 구조를 도입했다.
Unbounded Labs, 빈티지 LLM 'Bart' 공개
Unbounded Labs가 1931년 이전 텍스트로 학습한 2.82B 파라미터 LLM 'Bart'를 오픈소스로 공개했다.
Unbounded Labs, 빈티지 LLM Bart 공개
Unbounded Labs가 1931년 이전 데이터로 학습한 2.82B 파라미터 LLM 'Bart'를 공개했다.