Sevren, 오프라인 휴대폰 추론 모델 Embla 1 공개

Sevren, 휴대폰에서 오프라인으로 돌아가는 10B-A1B 추론 모델 Embla 1 공개 (feat. embla-metal)

·2026.11.18 08:30

핵심 내용

Sevren이 오프라인 휴대폰 추론 모델 Embla 1을 MIT 라이선스로 공개했다.

1 / 4

자세히 보기

  • 10B-A1B MoE 구조의 Embla 1 모델 공개, MIT 라이선스 적용
  • iPhone 18 Pro에서 1,024토큰 프롬프트 처리 및 256토큰 생성 시 1.77초 지연 기록
  • 5개 벤치마크 평균 57.4점 달성, 비교 대상 상위 모델 대비 2.0~5.5배 빠른 속도 확인
  • Apple 실리콘 전용 embla-metal 런타임 제공, M5 Pro 기준 생성 속도 290~339 tok/s
  • 한국어 토큰화 비효율 확인, Qwen3.8 대비 약 4.4배 많은 토큰 사용
  • 256K 컨텍스트 지원, Sevren Sparse Attention 및 KV 브리지 기술 적용

이 한국어 요약은 AI가 자동으로 만들었습니다. 원문의 주장과 맥락은 원문에서 확인해 주세요. 저작권은 원저작자에게 있습니다.

AI 처리 방식을 확인하거나, 요약 오류와 출처 표기 문제, 삭제 요청을 문의 · 건의로 알려주세요.