Naive-N0.5-Flash: 1M 컨텍스트와 2,000 tokens/s 속도를 동시에 잡은 309B MoE 모델

309B 파라미터 규모에 활성 파라미터 15.5B를 가진 MoE 기반 오픈 웨이트 모델이다. 코딩과 AI R&D 작업에 특화되어 있으며, MIT 라이선스로 가중치와 추론 코드가 공개된다.

Sliding-Window Attention과 DeepSeek Sparse Attention을 결합한 하이브리드 구조를 채택했다. 전체 어텐션 레이어 없이 네이티브 1M 토큰 컨텍스트를 지원해 대규모 코드베이스나 긴 문서 처리에 유리하다.

자체 추론 시스템 NaiveRT를 통해 표준 모드에서 초당 50토큰, Ultrafast 모드에서 최대 2,000토큰의 생성 속도를 제공한다. Mega-kernel fusion과 speculative decoding 등 AI 중심의 최적화 기법이 적용됐다.

API 이용 시 입력 0.10달러, 출력 0.40달러, 캐시 읽기 0.01달러(백만 토큰당)의 가격이 책정됐다. 긴 컨텍스트 유지와 높은 추론 속도를 동시에 필요로 하는 개발 환경에서 비용과 성능의 균형을 맞출 수 있다.