Ghostwriter AI 및 Complete Code 베타 출시

Replit은 IDE의 모든 기능에 지능을 부여하는 Ghostwriter를 발표했다. Ghostwriter는 실시간 코드 완성, 코드 생성 및 설명 도구, 그리고 에디터를 떠나지 않고 오픈 소스 코드를 검색할 수 있는 기능을 제공한다.

핵심 기능인 Complete Code는 AI 기반의 페어 프로그래머로, 현재 클로즈드 베타로 운영 중이다. 사용자들은 이 기능이 GitHub Copilot보다 2~3배 빠르며, 웹 개발 및 학습 속도를 획기적으로 높여준다고 평가한다.

Replit은 최상의 성능을 위해 Salesforce의 CodeGen 모델을 기반으로 다양한 최적화 기술을 적용했다. 이를 통해 중간 응답 시간을 400ms 미만으로 단축하여 세계에서 가장 빠른 코드 완성 경험을 제공한다.

주요 최적화 전략은 다음과 같다:

• FasterTransformer와 Triton 서버를 활용한 추론 최적화
• Knowledge Distillation을 통해 2B 모델을 1B 규모의 경량 모델로 압축
• Quantization을 통한 가중치 및 활성화 값의 정밀도 최적화