AI BriefingNace AI, Drex 의사결정 모델 학습 플레이북 공개
[R] First paper on how to train actual SOTA Decision Models ever: full playbook - architecture, datasets, training, evaluation, inference
·2026.11.06 23:39
핵심 내용
Nace AI가 Drex 모델 학습법을 담은 50페이지 기술 보고서를 공개했다.
자세히 보기
- Nace AI Research Lab이 Drex 의사결정 모델의 아키텍처, 학습, 평가 방식을 정의한 50페이지 분량의 기술 보고서를 공개함
- Drex v1.5는 32K~128K 토큰 롱컨텍스트 벤치마크에서 93.4% 정확도를 달성했으며, Drex v2.0은 약 115K의 홀드아웃 의사결정 데이터에서 1.37%의 캘리브레이션 ECE를 유지함
- 약 115만 건의 검증된 의사결정 기록을 활용한 풀 파라미터 SFT 기반 학습을 적용했으며, 애블레이션 연구 결과 SFT가 대부분의 성능 향상에 기여하고 RLAF(Reinforcement Learning from Adjusted Feedback)가 더 작은 개선과 더 나은 캘리브레이션을 제공함
- 9B에서 35B 파라미터 범위의 모델 패밀리로 Dense Causal Transformers, Diffusion LMs, Mixture of Experts 아키텍처를 활용하며, 128K 토큰 컨텍스트에서 100ms 미만의 추론 지연 시간을 기록함
- Drex DLM, v1.5, v2.0, Drex Max의 가중치를 safetensors 및 GGUF 형식으로 오픈소스화하여 llama.cpp와 Ollama를 통한 로컬 배포를 지원함
이 한국어 요약은 AI가 자동으로 만들었습니다. 원문의 주장과 맥락은 원문에서 확인해 주세요. 저작권은 원저작자에게 있습니다.
