AI BriefingDrex Max v1, 400ms 지연으로 의사결정 확률 반환
[Release] Drex Max v1: Open-weight 27B multimodal decision model, 262K context, local inference on Apple Silicon
·2026.11.02 00:31
핵심 내용
Drex Max v1이 단일 패스 확률 출력을 통해 400ms 지연을 달성했다
자세히 보기
- Nace.AI가 Open RAIL-M 라이선스 하에 27B 다중 모달 의사결정 모델 Drex Max v1을 오픈소스로 공개함. 저지연 라우팅 및 에이전트 도구 선택을 위해 설계됨.
- 기존 LLM과 달리 토큰이나 JSON을 생성하지 않음. 255-way readout head를 통해 단일 포워드 패스에서 후보 답변에 대한 확률을 반환하며, 지연 시간은 약 400ms임.
- 벤치마크 결과 Drex Max v1(27B)은 이전 버전인 Drex v2.0(35B)을 능가함. Public Decision Index는 67.52로 61.25를 상회하며, Decision Bench v4에서 94.30%를 기록함.
- 최대 262,144 토큰의 컨텍스트와 이미지당 4,194,304 픽셀을 지원함. NVIDIA GPU, Apple Silicon(Metal), 그리고 llama.cpp 및 Ollama 포크를 통한 CPU 환경에서 구동 가능함.
- 하드웨어 요구 사항은 CUDA bf16 기준 약 48.6 GiB VRAM, Apple Silicon Q8_0 GGUF 기준 약 27.25 GB임. H100 환경에서 양자화 확률은 비양자화 bf16과 0.02 이내의 오차를 보임.
이 한국어 요약은 AI가 자동으로 만들었습니다. 원문의 주장과 맥락은 원문에서 확인해 주세요. 저작권은 원저작자에게 있습니다.
