flint-GGUF: SWE-bench 89.7% 기록한 40B MoE 코딩 에이전트

Recursive가 개발한 Flint는 코딩 에이전트 특화 언어 모델이다. 코드베이스 분석, 버그 수정, 기능 구현, 테스트 작성 등 개발 워크플로우 전반을 수행하도록 설계되었다. 총 39.8B 파라미터 중 토큰당 약 2.5B만 활성화되는 mixture-of-experts 구조를 채택했다.

1 / 4

해당 저장소는 unsloth가 제공한 GGUF 양자화 버전이다. BF16 원본부터 Q2_K_XL, Q4_K_XL, Q8_0 등 다양한 비트폭의 양자화 파일이 포함되어 있어 하드웨어 사양에 맞춰 선택할 수 있다. llama.cpp, Ollama, vLLM 등 주요 추론 엔진과 호환되며, OpenAI 호환 API를 통해 도구 호출(tool use)을 지원한다.

성능 지표는 SWE-bench Pro v2에서 89.7%, SWE-bench Verified에서 74.2%, Terminal-Bench 2.1에서 54.9%를 기록했다. 262,144 토큰의 긴 컨텍스트 윈도우를 지원하며, 추론 과정(reasoning)과 도구 호출 결과를 대화 히스토리에 유지하도록 설계되어 복잡한 에이전트 작업에 적합하다.

Apache-2.0 라이선스로 배포되어 상업적 활용이 가능하다. 로컬 환경에서 코딩 보조 에이전트를 구축하거나, 클라우드 의존도를 줄이고 싶을 때 유용하다. 양자화 수준에 따라 메모리 요구량이 달라지므로, 사용 가능한 GPU 또는 CPU 자원에 맞는 파일 버전을 선택해야 한다.