Baseten joey-1, 2B 규모로 P50 20ms, API 토큰당 $0.01

Baseten, 입력 1M 토큰당 $0.01인 2B 결정 모델 joey-1 공개

·2026.11.02 11:30

핵심 내용

Baseten이 2B 결정 모델 joey-1을 공개하며 API 입력 1M 토큰당 $0.01의 가격을 제시했다.

1 / 6

자세히 보기

  • Baseten이 Qwen3.5-2B 기반 결정 모델 joey-1을 공개하고 Hugging Face에 가중치를 제공함
  • 2,000토큰 요청 기준 P50 지연 시간 20ms로 elephant-1(49ms) 대비 약 2.5배 빠름
  • API 입력 토큰 100만 개당 $0.01로, elephant-1($0.035)과 mammoth-1($0.10)보다 저렴함
  • Decision Index 공개 분할 63.30점(4B 미만 1위)이나 비공개 Full 점수는 35.91점으로 낮음

성능 및 벤치마크

  • Jev Decision Index Full 점수 기준 joey-1(35.91)은 StartLux-Decision v1.1 2B(40.11)보다 낮음
  • elephant-1은 AA-Omniscience 정확도 11.6%로 낮으나 환각하지 않는 비율 93.2%로 높음
  • mammoth-1은 JevBench Capability 85.2로 오픈 가중치 보드 1위 기록

기술적 특징 및 구성

  • 문장 생성 대신 선택지별 확률을 반환하며, 상태와 질문 묶음으로 요청 처리
  • Qwen3.5의 Gated DeltaNet 구조 유지하되 전체 어텐션 층만 블록 양방향 마스크로 변경
  • 학습 데이터 621만 건 중 58.3%가 핵심 결정 기술, 16.1%가 안전과 판단 보류 데이터
  • 판단 보류 학습 도입 시 데이터 4% 증가로 Decision Index 5.5점 상승 효과 확인

이 한국어 요약은 AI가 자동으로 만들었습니다. 원문의 주장과 맥락은 원문에서 확인해 주세요. 저작권은 원저작자에게 있습니다.

AI 처리 방식을 확인하거나, 요약 오류와 출처 표기 문제, 삭제 요청을 문의 · 건의로 알려주세요.