NVIDIA, Nemotron 3.5 Content Safety 공개

NVIDIA가 기존 Nemotron 3를 발전시킨 Nemotron 3.5 Content Safety 모델을 공개했습니다. 이 모델은 Google의 Gemma 3 4B IT를 기반으로 구축되었으며, 다음과 같은 핵심 기능을 제공합니다.

• 통합 멀티모달 평가: 사용자 프롬프트, 이미지, 어시스턴트 응답을 하나의 컨텍스트로 처리하여, 텍스트와 이미지 간의 상호작용에서 발생하는 위반 사항을 단일 패스로 탐지합니다.
• 글로벌 언어 지원: 한국어를 포함한 12개 언어에 대해 명시적 학습을 완료했으며, Gemma 3의 성능을 바탕으로 약 140개 언어에 대해 강력한 제로샷(Zero-shot) 일반화 능력을 갖췄습니다.
• 맞춤형 정책 시행(Custom Policy Enforcement): 기업이 고유하게 정의한 안전 정책을 모델에 입력하면, 모델이 해당 정책을 근거로 판단을 내릴 수 있어 산업군별(금융, 의료 등) 맞춤형 대응이 가능합니다.
• 추론 과정 제공(THINK Mode): 선택 사항으로 모델의 단계별 추론 과정을 출력하는 THINK 모드를 지원하여, 안전 판정 결과에 대한 감사(Audit) 가능성을 높였습니다.

또한 NVIDIA는 모델 학습에 사용된 멀티모달/다국어 안전 데이터셋과 추론 트레이스(Reasoning traces)를 함께 공개하여 오픈소스 생태계의 안전성 연구를 지원합니다.