MAI-Code-1.1-Flash: 더 뛰어나고, 더 빠르며, 비용은 4분의 1로

MAI-Code-1.1-Flash는 지난 6월 Microsoft Build에서 공개된 모델 대비 더 높은 품질의 코드를 생성하며, 토큰 효율성은 25% 향상되었고 비용은 4분의 1 수준으로 낮아졌다. 이 효율적인 코딩 모델은 현재 GitHub Copilot 프로덕션 환경에 적용되어 있다.

개발자 피드백을 반영하여 CLI 작업과 .NET 성능에 집중한 결과, 다음과 같은 성능 향상을 달성했다:

• Terminal-Bench 2.1 (GitHub Copilot CLI): 22% 성능 향상
• .NET 작업: 15% 성능 향상

실제 프로덕션 지표에서도 긍정적인 변화가 확인되었다. 코드 생존율(Code survival)은 4% 상승했으며, 사용자 재방문율은 9% 증가했다.

또한, 모델의 효율성이 극대화되어 GitHub Copilot에서 토큰 스트리밍 속도가 25% 빨라졌고, 작업 완료에 필요한 토큰 사용량은 25% 감소했다. 이는 더 빠른 응답과 더 적은 비용으로 더 많은 작업을 수행할 수 있음을 의미한다.

이러한 성과는 GitHub Copilot 내 수십만 개의 강화 학습(Reinforcement Learning) 환경을 통해 실질적인 사용 사례를 최적화함으로써 달성되었다.