Reka Edge 2603 지원
Reka Edge 2603 multimodal support has been merged into llama.cpp
·2026.04.23 23:53
핵심 내용
llama.cpp에 Reka Edge 2603 멀티모달 지원과 템플릿 수정이 추가됐다.
자세히 보기
llama.cpp에 Reka Edge 2603 멀티모달 지원이 추가됐다.
- LLM: Llama-style, 32층, GQA 32/8 heads, RoPE, SiLU
- Vision encoder: ConvNeXt V2 기반 4-stage, depths [3, 3, 27, 3], GRN
- Projector: 2-layer MLP(GELU), 2816 → 4096 → 4096, tile당 adaptive 8×8 pooling으로 64개 visual tokens
챗 템플릿에는 reasoning chunk가 들어가지만, Reka Edge 2603 자체는 reasoning을 지원하지 않는다.
지원 과정에서 Jinja 엔진도 손봤다. 문자열 반복, tojson의 ensure_ascii, 정수에 대한 int() no-op을 추가해 Reka용 템플릿을 맞췄다.
작성자는 VQA v2, RefCOCO A/B, mobile-actions 벤치마크와 llama-server 테스트를 돌렸고, 변경은 모두 additive라고 설명했다.
이 한국어 요약은 AI가 자동으로 만들었습니다. 원문의 주장과 맥락은 원문에서 확인해 주세요. 저작권은 원저작자에게 있습니다.