NVIDIA MCG 툴킷으로 AI 모델 문서화 자동화하기

AI 모델의 복잡성이 증가하고 EU AI Act 등 규제가 강화됨에 따라, 모델의 투명성과 책임성을 입증할 모델 카드(Model Card) 작성이 필수적이 되었다. 하지만 수동 작성 방식은 시간이 많이 소요될 뿐만 아니라, 모델 업데이트 속도를 따라가지 못해 데이터가 최신 상태를 유지하기 어렵다는 문제가 있다.

NVIDIA MCG(Model Card Generator) 툴킷은 소스 코드에서 직접 데이터를 읽어 Model Card++ 형식의 문서를 1분 이내에 자동 생성하는 컨테이너화된 파이프라인이다. 이 툴킷은 **Ingestion(수집) $\rightarrow$ Extraction(추출) $\rightarrow$ Rendering(렌더링)**의 모듈식 단계를 거쳐 작동한다.

상세 프로세스는 다음과 같다:

• Ingestion: GitHub, GitLab, HuggingFace 등의 URL이나 파일을 받아 문서, 설정 파일, 코드로 분류하여 처리한다.
• Extraction: NVIDIA NIM 기반의 RAG(Retrieval-Augmented Generation) 파이프라인을 활용한다. NVIDIA Nemotron RAG가 고정밀 임베딩과 리랭킹을 수행하며, GPT-OSS-120B가 추출된 정보를 바탕으로 규격에 맞는 JSON 데이터를 생성한다.
• Rendering: 구조화된 JSON 데이터를 설정 가능한 템플릿을 통해 읽기 쉬운 Markdown 형식으로 변환한다.

최종 결과물은 개요와 함께 **편향성(Bias), 설명 가능성(Explainability), 개인정보 보호(Privacy), 안전 및 보안(Safety & Security)**의 4가지 세부 카드를 포함하여 완성된다.