OpenAI, 자체 LLM 활용해 AI 가속기 칩 'Jalapeño' 설계 공개

OpenAI가 자체 LLM을 활용해 설계한 AI 가속기 칩 'Jalapeño'의 세부 사항을 공개했다. 설계 과정에는 OpenAI의 내부 미세조정 LLM과 Google의 오픈소스 high-level synthesis 도구 XLS가 핵심적으로 사용되었다. 초기에는 o3 모델을 사용했으나, 프로젝트 후반부에는 GPT-6 Astra의 전신 모델에 접근하여 XLS 변환 없이 직접 Verilog 코드를 생성하는 단계까지 발전했다. 소프트웨어 최적화 단계에서는 내부 AI 모델을 활용해 DeepSeek의 multi-head latent attention kernel 벤치마크 성능을 이론적 상한 대비 0.31%에서 약 40시간 만에 88.94%까지 끌어올렸다. OpenAI는 Broadcom과 협력하여 물리적 설계(백엔드)를 진행했으며, Ho와 Leary는 Codex만으로 완전 자동화가 가능하다는 오해를 경계하며, AI는 소규모 팀의 고품질 결과 도출과 타임라인 단축을 위한 도구임을 명확히 했다.