AI BriefingPrime Intellect, Moondream 인수… Photon 엔진으로 추론 성능 강화
핵심 내용
Prime Intellect가 Moondream을 인수해 Photon 엔진 기반 Moondream 3.1을 Prime Inference에서 제공한다.
자세히 보기
Prime Intellect가 Moondream을 인수하며, 창업자 Vik Korrapati와 Jay Allen이 추론 확장 및 멀티모달 모델 개발을 주도한다. 이번 인수로 Moondream의 Photon 추론 엔진과 커스텀 GPU 커널을 Prime 스택에 통합해, 효율적인 서빙과 Prime의 학습 플랫폼을 결합한다.
성능 및 효율성
Moondream 기술은 특정 작업에서 대형 범용 모델을 능가하는 소형 특화 모델에 집중한다. Moondream 3.1은 객체 감지 및 차트 분석에서 선두를 달리며 초당 34건의 요청을 처리하는데, 이는 두 번째로 정확한 오픈 모델보다 약 24배 빠르다. Meta의 Muse Wonder와 비교하면, Moondream 3.1은 비용의 약 1/1000 수준으로 포인팅 정확도의 **80%**를 달성한다.
Photon 엔진은 모델을 단일 GPU 프로그램으로 컴파일해 수십 밀리초 내 답변을 제공한다. 단일 NVIDIA H100에서 Photon은 초당 60건 이상의 Moondream 추론을 실행하며 라이브 비디오 애플리케이션을 지원한다.
가용성 및 통합
Moondream 3.1은 Photon 기반의 Prime Inference를 통해 이용 가능하다. 또한 Clef와 Clef Flash 모델은 Prime Inference 및 OpenRouter에서 서비스 중이며, Clef는 Jev와 동일한 가격, Clef Flash는 절반 가격으로 책정되었다. 기존 Moondream Cloud 고객은 Moondream 모델 및 광범위한 학습 서비스에 사용할 수 있는 플랫폼 크레딧을 받는다. Moondream은 Prime 생태계 내에서 소형 고효율 멀티모달 모델 브랜드로 유지된다.
이 한국어 요약은 AI가 자동으로 만들었습니다. 원문의 주장과 맥락은 원문에서 확인해 주세요. 저작권은 원저작자에게 있습니다.
