IBM, Granite 4.2 추론 LLM 공개

IBM은 Granite 4.2라는 밀집형(decoder-only) 추론 LLM 시리즈를 Apache 2.0 라이선스로 공개했습니다. 3B, 8B, 30B 세 가지 크기로 제공되며, 약 15조 토큰의 데이터로 사전 학습되었습니다.

주요 기술 특징은 다음과 같습니다.

• 5단계 사전 학습 전략: 단계별로 데이터 품질을 높이고, 마지막 단계에서 컨텍스트 윈도우를 512K 토큰까지 확장했습니다.
• 다단계 강화학습(RL) 파이프라인: 사후 학습 과정에서 에이전트 RL을 적용하여 8B와 30B 모델은 실제 샌드박스 환경에서 도구 호출, 코드 실행, 터미널 조작, 웹 검색 등을 수행하는 능력을 학습했습니다.
• 추론 모드 전환: 모든 모델은 '생각(thinking)' 모드와 '비생각(non-thinking)' 모드, 그리고 간단한 질문에 짧은 추론 예산을 사용하는 '저비용(low-effort)' 모드를 지원합니다.
• 네이티브 도구 호출: OpenAI 호환 엔드포인트(vLLM 등)를 통해 OpenAI 함수 호출 형식으로 도구 호출을 지원하여 에이전트 프레임워크와 쉽게 연동됩니다.

SFT 데이터에는 에이전트 관련 데이터가 31.6% 포함되었으며, OpenHands, SWE-agent 등 다양한 에이전트 하네스에서 생성된 데이터를 활용했습니다.