Blockway, MIT 추론 엔진 탑재 Agens Volundr 32B v1 출시

Blockway가 Agens Volundr 32B v1을 공개하며 프리뷰 버전에서 지적된 주요 문제를 해결했다. 이번 업데이트는 에이전트 작업에서의 반복 루프 제거와 새로운 오픈소스 추론 엔진 도입에 초점을 맞췄다.

주요 개선 사항 및 수정

v1 릴리스는 프리뷰 단계의 주요 불만 사항을 해결했다:

• 루프 제거: SWE-bench 작업의 반복 루프가 프리뷰의 36/50에서 v1에서는 0/50으로 감소했다.
• 추론 효율성: 중간값 추론 단계는 120 토큰으로 줄었으며(32K 절단 기준), 가장 긴 단계는 12K다.
• 세션 연속성: SGLang 빌드가 세션 연속성을 지원하게 되어 모델 상태 재사용을 통해 후속 턴이 2.9배 더 빨라졌다(중간값 1.6초).
• 에이전트 성능: SWE-bench Verified(50개 작업 하위 집합) 점수가 22/50에서 27/50으로 향상됐고, τ²-bench 점수는 89/120에서 92/120으로 올랐다. SWE 작업 중간값 시간은 124분에서 82분으로 단축됐다.

Agens Engine (MIT 라이선스)

Blockway는 모델의 하이브리드 아키텍처(72개 레이어 중 54개가 KV 캐시 대신 고정 크기 상태 사용)에 맞춰 설계된 커스텀 추론 엔진 Agens Engine을 MIT 라이선스로 오픈소스화했다.

• 성능: 이 엔진은 Blockway 자체 SGLang 빌드보다 디코딩 속도가 1.4~1.6배 빠르며, 사고 과정이 포함된 코드 작업에서는 최대 1.8배까지 향상됐다.
• 처리량: 채팅 속도는 58에서 86 tok/s로, 코드는 79에서 113 tok/s로, JSON 생성은 125에서 199 tok/s로 증가했다.
• 16GB 빌드: 새로운 Agens-Volundr-32B-v1-Engine-16GB 빌드는 혼합 2/3/4비트 양자화(가중치당 약 2.85비트)를 사용하여 16GB 메모리 예산 내에서 262K 컨텍스트(측정 최대 239K)를 제공한다.

벤치마크 결과

코딩과 수학 분야에서 경쟁력 있는 성능을 보였으나, 에이전트 동작 최적화로 인해 프리뷰 대비 일부 일반 지식 점수는 하락했다.

• LiveCodeBench v6: 67.9 (2회 실행 중 최고), Qwen3.8-27B 대비 +8.4.
• AIME 2025: 80.0 (2회 실행 중 최고), Qwen3.8-27B 대비 +6.7.
• GPQA Diamond: 80.3 (프리뷰의 84.3에서 하락).
• HumanEval: 78.7 (프리뷰의 81.7에서 하락).

제한 사항 및 요구 사항

• 하드웨어: 16GB 엔진 빌드는 Linux, CUDA 12.9가 포함된 NVIDIA 드라이버, 그리고 262K 컨텍스트 창을 위한 32GB 이상의 호스트 RAM이 필요하다. 48GB 카드에서 16GiB 상한을 적용해 측정됐다.
• 호환성: 기본 vLLM은 모델을 로드할 수 없다. SGLang과 llama.cpp는 Blockway의 특정 빌드가 필요하다. llama.cpp 경로에서는 아직 Metal/Mac 지원이 없다.
• 품질 트레이드오프: 16GB 양자화 빌드는 GPQA 점수가 하락했지만(73.7 vs bf16의 80.3), 코딩 성능은 유지됐다(HumanEval 73.2% vs INT4의 73.8%).