DeepSeek V4.1 추론 데이터셋 공개
1,451 verified max-effort reasoning traces from DeepSeek v4.1 Flash, decontaminated against AIME + MATH-500 — MIT
·2026.09.19 20:29
핵심 내용
DeepSeek V4.1 Flash의 검증된 추론 트레이스 1,451개를 담은 MIT 라이선스 데이터셋 'BigMath'가 공개됐다.
자세히 보기
DeepSeek V4.1 Flash 모델이 생성한 1,451개의 고난도 수학 추론 트레이스를 담은 데이터셋이 공개됐다. 이 데이터셋은 소규모 추론 모델의 지도 미세 조정(SFT) 및 증류(distillation) 학습용으로 설계되었으며, MIT 라이선스 하에 Hugging Face에 배포되었다.
데이터셋 구성 및 검증
- 출처 및 규모: AoPS 포럼(1,002개)과 MATH 데이터셋(449개)에서 선별된 문제를 포함하며, 총 1,451개의 트레이스가 담겨 있다. 총 추론 토큰 수는 약 1,160만 개(평균 약 8,000개)이다.
- 검증 프로세스: Sympy 기반 코드 그래더와 Qwen3.5-4B 모델을 활용한 2단계 판정 과정을 거쳤다. 오답이나 모호한 트레이스는 제외되었으며, 최종적으로 정답률이 높은 밴드(78.5%)의 데이터만 포함되었다.
- 데이터 오염 방지: MATH-500 및 993개의 AIME 문제(1983~2026)와 임베딩 유사도 검사를 수행하여 중복 데이터를 제거했다.
활용 가치
이 데이터셋은 단일 교사 모델(DeepSeek V4.1 Flash)의 추론 스타일을 따르며, 장거리 추론(long-horizon reasoning) 능력 향상을 위한 고품질 학습 데이터로 활용될 수 있다. 단, 최종 답안 검증은 수행되었으나 단계별 논리 검증은 이루어지지 않았다.
이 한국어 요약은 AI가 자동으로 만들었습니다. 원문의 주장과 맥락은 원문에서 확인해 주세요. 저작권은 원저작자에게 있습니다.