NVIDIA Vera Rubin, Post-Training 워크로드의 Intelligence per Dollar 극대화 - Agentic AI의 핵심 지표

Agentic AI는 지속적인 학습이 필수다. 생성형 모델과 달리 에이전트 AI는 프롬프트에 답하는 것이 아니라 목표를 부여받고 환경 변화에 적응해야 한다. 도구가 바뀌고, 예상 못 한 엣지 케이스가 등장하고, 배포 환경마다 코드베이스와 정책이 다르다. 따라서 Post-Training(사전학습 후 모델을 정제하는 단계)은 더 이상 일회성 마무리 작업이 아니라 지속적으로 반복되는 워크로드다.

Post-Training은 Reinforcement Learning(강화학습)을 통해 진행된다. 모델은 작업에 대한 시도(포워드 패스)를 작성하고, 이것을 평가한 후 그 결과로 모델 가중치를 업데이트(백워드 패스)한다. 수백만 번의 시도를 통해 지능이 쌓인다.

Intelligence per Dollar는 비용 효율성의 새로운 지표다. 기존의 Cost per Token(토큰당 비용)이 추론 단계의 운영 효율을 측정한다면, Intelligence per Dollar는 모델 지능 개발에 투자한 비용이 실제로 수익으로 돌아오는지를 판단한다. 포워드 패스와 백워드 패스 모두에서 각 계산의 수익성을 극대화하는 것이 목표다.

NVIDIA Nemotron 3 Ultra는 550억 파라미터 혼합 전문가(MoE) 모델로, 공개된 Post-Training 레시피를 NeMo RL로 실행했다. 실제 오픈소스 소프트웨어 버그 수정 벤치마크인 SWE-bench verified에서 71.7% 정확도를 기록했다.

NVIDIA Vera Rubin은 Blackwell 세대 대비 GPU를 1/4로 줄였다. 더 큰 모델을 더 적은 리소스로 학습 가능하며, 더 많은 롤아웃(시도)을 생성하고, 더 많은 환경을 동시 실행하며, 중단 없는 Post-Training 사이클을 가능하게 한다.

기업들이 이미 실전에 활용하고 있다. Prime Intellect는 Vera Rubin에서 강화학습 환경을 확장하고 반복 사이클을 가속화한다. Perplexity는 RDMA 기반 무게 전달로 조 단위 파라미터 모델을 2초 내에 학습·추론 노드 간 동기화한다. Together AI는 Post-Training을 서비스로 제공하며 Vera Rubin 플랫폼 활용을 계획 중이다.