Baseten elephant-1, d1-ultra와 동등한 성능에 4분의 1 비용

Baseten의 Base Labs가 Qwen3.5-9B를 기반으로 후학습한 9B 결정 모델 elephant-1을 출시함. 텍스트 생성 대신 예/아니오, 객관식, 순서 점수 질문에 대해 확률을 반환함.
Artificial Analysis의 Decision Index에서 65점을 기록해 d1-ultra와 동률을 이룸. 100만 건당 비용은 d1-ultra의 약 $31에 비해 $8로 약 4분의 1 수준임.
라우팅 및 가드레일 영역에서 When2Call 95점, WildGuardTest 93점으로 우수함. 그러나 '모름' 응답 비율이 높아 Omniscience 정확도는 12점에 그침.
전체 주의력 레이어에서 인과 마스크를 블록 양방향 마스크로 교체해 질문 블록이 모든 옵션을 확인하고 프리픽스 캐시를 재사용하도록 설계함.
621만 건의 예시로 학습했으며, 핵심 결정 기술 58%, 안전 16%, 판단 16%, 공개 데이터셋 10%의 비율로 구성함. 크로스 엔트로피와 Brier 손실 함수를 최적화에 활용함.
가중치는 Hugging Face에서 오픈 웨이트로 제공됨. 16k 컨텍스트 제한이 있으며, 10월 27일까지 Baseten에서 무료 API 접근이 가능함.

핵심 내용