Apple Silicon용 추론 엔진 Conifer 공개

Princeton 출신 5인 팀이 개발 중인 Conifer는 Apple Silicon 환경에 최적화된 오픈 소스 로컬 추론 엔진이다.

Rust 언어와 **직접 작성한 커널(hand-written kernels)**을 사용하여 성능을 극대화했으며, 소형 모델의 경우 기존의 llama.cpp나 MLX를 능가하는 성능을 목표로 한다.

주요 특징은 다음과 같다:

• 로컬 AI 에이전트: OS 커널 권한 제어를 통해 사용자의 파일과 앱에 직접 접근하여 실질적인 작업을 수행하는 에이전트 지원.
• 성능 최적화: Apple Silicon 하드웨어 성능을 최대한 활용하도록 설계.
• 오픈 소스: 모든 기능은 무료로 제공되며 오픈 소스 원칙을 유지한다.

현재 100명의 베타 테스터를 모집하여 1:1 피드백 및 특정 도구 최적화 작업을 진행 중이며, 올여름 정식 버전을 출시할 예정이다.