Axion 1.0, 단순 3단계 학습으로 상업용 모델과 경쟁하는 오픈 에이전트 모델

Axion1-0에서 공개한 Axion 1.0은 강력한 에이전트 기능과 단순한 학습 레시피를 갖춘 완전 오픈 에이전트 파운데이션 모델임
학습은 3단계로 구성되며, 중간 학습(mid-training), DPO, OPD 없이 두 단계의 경량 SFT 후 RL을 수행함
첫 번째 SFT 단계는 모델 인지 데이터 구성을 통해 자체 완결적 추론 능력을 개발하며, 베이스 모델의 성공 전략을 기반으로 도전적인 문제를 합성하고 적대적으로 강화함
두 번째 SFT 단계는 실제 데이터와 결정론적 계산에 기반한 다양하고 자동 검증 가능한 작업을 위한 확장 가능한 파이프라인을 사용해 도구 의존 추론 능력을 확장함
RL 단계는 장기 추론(long-horizon reasoning) 및 외부 도구, 환경과의 상호작용을 추가로 강화함
Axion 1.0은 다양한 에이전트 벤치마크에서 강력한 성능을 보이며, 일부 벤치마크에서는 선두 상업 모델과 경쟁력을 입증함
데이터 구성, 생성, 필터링, 검증, 프롬프트, 학습 코드를 포함한 전체 레시피를 공개하여 완전한 재현 및 확장을 가능하게 함
arXiv 논문, GitHub 저장소, Hugging Face 데이터셋, 프로젝트 웹사이트 등 관련 리소스를 제공함

핵심 내용