webAI, Granite 기반 3.66B 형식 논리 모델 TwIL-LM3-Pro 공개

·2026.10.14 00:42

핵심 내용

webAI가 3.66B 파라미터의 형식 논리 모델 TwIL-LM3-Pro를 공개했다.

자세히 보기

webAI가 IBM Granite 4.2 3B를 기반으로 한 3.66B 파라미터 규모의 형식 논리 특화 모델 TwIL-LM3-Pro를 공개했다. 이 모델은 LoRA SFT, 체크포인트 병합, 프로그래밍 검증기를 활용한 RL을 통해 후처리 학습을 거쳤으며, 함의 확인, 규칙 유도, Lean 증명 비판 등 형식 논리 작업에 특화되어 있다.

성능 벤치마크

모델은 파라미터 수 대비 강력한 성능을 보이며, 2배 이상 큰 모델들과 논리 작업에서 대등한 수준을 기록했다:

  • Logic Composite: 55.4 (Granite base 43.1, 원본 TwIL-LM3 42.2, Qwen3-8B 53.4 대비).
  • Strict Multiple Choice Logic: 41% (차점 모델 17% 대비).
  • BBH Logic: 95.4%.

논리 능력은 Qwen3-8B와 비슷하지만, 일반 벤치마크(79.0 vs Qwen3-8B 84.9)에서는 뒤처지며, 규칙 유도나 Lean 형식화 등 특정 작업에서는 gpt-oss-120b에 밀린다.

추론 및 배포

CPU 전용 하드웨어에서의 효율성이 주요 강점이다. 15 GiB RAM을 갖춘 CPU 전용 Xeon 환경에서 초당 약 10.5개 토큰을 생성하며, 이는 동일 하드웨어에서 Qwen3.8-27B보다 98배 빠르다. 답변당 약 1,900개 토큰의 긴 사고 예산이 필요하며, 답변의 4분의 1이 길이 상한선에 도달한다.

  • 가용성: Ollama, LM Studio, llama.cpp 지원.
  • 크기: Q4_K_M GGUF는 2.09 GiB, Q5/Q6/Q8은 최대 3.63 GiB.
  • 요구 사항: CPU 또는 4 GB VRAM에서 실행 가능. 권장 온도는 0이며, 2048개 이상의 토큰 예산을 설정해야 한다.

이 한국어 요약은 AI가 자동으로 만들었습니다. 원문의 주장과 맥락은 원문에서 확인해 주세요. 저작권은 원저작자에게 있습니다.

AI 처리 방식을 확인하거나, 요약 오류와 출처 표기 문제, 삭제 요청을 문의 · 건의로 알려주세요.