카카오, 자체 개발 비전 인코더 Kanana-2-vision-encoder 공개… Medium·Tiny 가중치 오픈소스

·2026.10.21 08:00

핵심 내용

Kanana-2-vision-encoder가 9개 영역 중 8개에서 글로벌 최고 점수를 기록했다.

1 / 16

자세히 보기

  • Kanana-2 LLM 가중치로 초기화해 학습 효율을 4배 높이고, SWA와 GQA 구조로 고해상도 이미지 처리 시 지연 시간을 61.8% 줄임
  • 9개 벤치마크 영역 중 8개에서 글로벌 최고 점수를 기록했으며, 특히 시각적 위치 인식과 한국어 OCR에서 큰 차이로 우위
  • Large(9억), Medium(4억), Small(2억), Tiny(1억) 파라미터 라인업을 구축하고, Medium과 Tiny 가중치를 Kanana-open 라이선스로 오픈소스 공개
  • 프루닝과 Full-Vocabulary KL 증류, On-Policy Distillation을 적용해 작은 모델에서도 정밀한 시각 이해 성능을 확보함

이 한국어 요약은 AI가 자동으로 만들었습니다. 원문의 주장과 맥락은 원문에서 확인해 주세요. 저작권은 원저작자에게 있습니다.

AI 처리 방식을 확인하거나, 요약 오류와 출처 표기 문제, 삭제 요청을 문의 · 건의로 알려주세요.