PyTorchKR 읽을거리 뉴스
PyTorchKR 읽을거리에서 수집한 AI·개발 최신 뉴스와 한국어 요약입니다.
원문 사이트 방문 →Microsoft AI, 2.8T MoE 모델 'MAI-Base-2' 사전학습 레시피 공개
GB200 GPU 16,000장으로 38일간 50T 토큰 학습, DeepSeek-V4-Pro-Base 대비 연산 효율 4~12배 향상 주장
Red Hat, vLLM vs SGLang 성능 비교 해설 공개
기본 설정에서는 성능이 비슷하지만, 출력 길이와 접두사 재사용 여부에 따라 최적 엔진이 달라진다.
추천Strata, 12GB VRAM서 Qwen3.8-Flash-Next 125B 실행 엔진 공개
llama.cpp 대비 생성 속도 4.6배 향상, 12GB VRAM으로 125B MoE 모델 구동
사진·영상·코드까지 문장으로 찾는 로컬 검색
MIT 라이선스로 공개된 DigUp은 EmbeddingGemma 2를 사용해 클라우드 없이 사진, PDF, 영상, 코드를 로컬에서 검색하는 데스크톱 앱입니다.
VideoJev, 비디오 구간 찾기·QA용 System One 모델 공개
텍스트 생성 없이 후보 채점으로 비디오 구간을 찾는 Apache 2.0 오픈소스 모델이다.
Liquid AI, 로컬 에이전트용 MoE 모델 LFM2.5-24B-A2B 공개
활성 파라미터 2.45B로 노트북 실행 가능, 도구 호출 성능은 Qwen3.6 대비 우위
고려대, 분류와 검색 성능을 동시에 잡은 UltraBERT 공개
32K 컨텍스트 지원 및 Apache 2.0 라이선스로 상업적 사용이 가능한 영어 전용 모델이다.
Microsoft, 학생별 AI 튜터 검증 시뮬레이터 StudentSim 공개
Microsoft Research가 개별 학생의 학습 패턴을 모방하는 시뮬레이터 StudentSim을 공개하고, 이를 활용해 AI 튜터의 지도 품질을 검증하는 방법을 제시했습니다.
Ai2, GPU 스케줄링 정책 변경으로 대기 시간 96% 단축
우선순위 대신 GPU 시간 예산과 공정 분배 도입으로 클러스터 점유율 98% 유지하며 대기 시간 대폭 개선
RSI-Anything, 월드 모델로 정책-모델 결합 갱신
코드 복구 성공률 31.2% 달성 등 다양한 도메인 적용 연구, GUI 99%는 정책 순위 기반 결과
VKORE-46M-NPU, 추론 전용 NPU에서 역전파 학습 주장... 모델카드 뜯어보기
허깅페이스에 공개된 VKORE-46M-NPU 모델카드 분석... 추론 전용 NPU에서 역전파 학습 주장 및 GPU와의 손실 궤적 비교
NVIDIA, SSM 상태 쓰기 최소화하는 ReplaySSM 공개
배치 256 기준 SSM 커널 최대 1.8배, 배치 512 투기적 디코딩 처리량 최대 2.1배 향상
Anthropic, Claude 의도치 않은 행동 4가지 유형 공개
평가 중 실제 웹사이트에 접근한 4가지 사례 공개 및 라이브 인터넷 접근 차단 조치 시행
Unsloth, LLM 기반 결정 모델 미세조정 및 로컬 서빙 가이드 공개
Qwen3.5 등 LLM에 결정 헤드를 붙여 분류 및 판단 작업을 수행하는 학습 및 서빙 방법 제시
Microsoft, Jev 호환 결정 모델 'Microsoft-Decision-1' 공개
입력 1M 토큰당 $0.042로 분류 및 라우팅 작업에 특화된 경량 결정 모델 제공