카카오, 자체 개발 비전 인코더 Kanana-2-vision-encoder 공개… Medium·Tiny 가중치 오픈소스
·2026.10.21 08:00
핵심 내용
Kanana-2-vision-encoder가 9개 영역 중 8개에서 글로벌 최고 점수를 기록했다.
자세히 보기
- Kanana-2 LLM 가중치로 초기화해 학습 효율을 4배 높이고, SWA와 GQA 구조로 고해상도 이미지 처리 시 지연 시간을 61.8% 줄임
- 9개 벤치마크 영역 중 8개에서 글로벌 최고 점수를 기록했으며, 특히 시각적 위치 인식과 한국어 OCR에서 큰 차이로 우위
- Large(9억), Medium(4억), Small(2억), Tiny(1억) 파라미터 라인업을 구축하고, Medium과 Tiny 가중치를 Kanana-open 라이선스로 오픈소스 공개
- 프루닝과 Full-Vocabulary KL 증류, On-Policy Distillation을 적용해 작은 모델에서도 정밀한 시각 이해 성능을 확보함
이 한국어 요약은 AI가 자동으로 만들었습니다. 원문의 주장과 맥락은 원문에서 확인해 주세요. 저작권은 원저작자에게 있습니다.