webAI, Granite 기반 3.66B 형식 논리 모델 TwIL-LM3-Pro 공개
·2026.10.14 00:42
핵심 내용
webAI가 3.66B 파라미터의 형식 논리 모델 TwIL-LM3-Pro를 공개했다.
자세히 보기
webAI가 IBM Granite 4.2 3B를 기반으로 한 3.66B 파라미터 규모의 형식 논리 특화 모델 TwIL-LM3-Pro를 공개했다. 이 모델은 LoRA SFT, 체크포인트 병합, 프로그래밍 검증기를 활용한 RL을 통해 후처리 학습을 거쳤으며, 함의 확인, 규칙 유도, Lean 증명 비판 등 형식 논리 작업에 특화되어 있다.
성능 벤치마크
모델은 파라미터 수 대비 강력한 성능을 보이며, 2배 이상 큰 모델들과 논리 작업에서 대등한 수준을 기록했다:
- Logic Composite: 55.4 (Granite base 43.1, 원본 TwIL-LM3 42.2, Qwen3-8B 53.4 대비).
- Strict Multiple Choice Logic: 41% (차점 모델 17% 대비).
- BBH Logic: 95.4%.
논리 능력은 Qwen3-8B와 비슷하지만, 일반 벤치마크(79.0 vs Qwen3-8B 84.9)에서는 뒤처지며, 규칙 유도나 Lean 형식화 등 특정 작업에서는 gpt-oss-120b에 밀린다.
추론 및 배포
CPU 전용 하드웨어에서의 효율성이 주요 강점이다. 15 GiB RAM을 갖춘 CPU 전용 Xeon 환경에서 초당 약 10.5개 토큰을 생성하며, 이는 동일 하드웨어에서 Qwen3.8-27B보다 98배 빠르다. 답변당 약 1,900개 토큰의 긴 사고 예산이 필요하며, 답변의 4분의 1이 길이 상한선에 도달한다.
- 가용성: Ollama, LM Studio, llama.cpp 지원.
- 크기: Q4_K_M GGUF는 2.09 GiB, Q5/Q6/Q8은 최대 3.63 GiB.
- 요구 사항: CPU 또는 4 GB VRAM에서 실행 가능. 권장 온도는 0이며, 2048개 이상의 토큰 예산을 설정해야 한다.
이 한국어 요약은 AI가 자동으로 만들었습니다. 원문의 주장과 맥락은 원문에서 확인해 주세요. 저작권은 원저작자에게 있습니다.