Nanbeige4.3-33B: BOSS直聘이 직접 훈련한 33B 오픈소스 LLM

BOSS直聘이 자체 개발한 Nanbeige4.3-33B는 331억 개 파라미터 규모의 텍스트 생성용 LLM이다. Apache 2.0 라이선스로 공개되어 상용 환경에서도 자유롭게 활용할 수 있다. Llama 아키텍처를 기반으로 하며, Transformers 및 Safetensors 포맷을 지원한다.

1 / 2

영어와 중국어를 모두 처리하며, 대화형 인터랙션에 최적화되어 있다. 특히 XML 및 JSON 포맷의 도구 호출(tool calling) 기능을 내장하고 있어 외부 API나 함수를 호출하는 에이전트 시스템에 바로 연결할 수 있다. 복잡한 추론 과정을 생각(thinking) 태그로 분리해 출력하는 구조를 갖추고 있다.

vLLM, SGLang, Docker 등 주요 추론 프레임워크와의 호환성이 확인되어 배포 환경 설정이 용이하다. Hugging Face의 Inference Endpoints와도 연동 가능하며, 로컬 환경에서는 Transformers 라이브러리를 통해 직접 로드해 사용할 수 있다.

중국어 기반 서비스나 다국어 지원이 필요한 개발자에게 적합하다. 자체 LLM을 구축하거나 기존 파이프라인에 오픈소스 모델을 통합하려는 팀이 Nanbeige4.3-33B를 대체 모델로 검토해볼 만하다.