Google, Broadcom 의존을 줄이며 Marvell과 맞춤형 AI inference 칩 개발 논의

Google이 Marvell Technology와 두 종류의 새 AI 칩 개발을 논의 중이다. 하나는 기존 TPU와 함께 작동하는 memory processing unit이고, 다른 하나는 모델 학습보다 서비스 제공에 최적화한 inference TPU다. 다만 아직 signed contract는 나오지 않았다.

이번 움직임은 Broadcom과의 관계를 끊는 신호가 아니라, 공급망을 다변화하는 전략에 가깝다. Google은 이미 Broadcom을 고성능 TPU와 네트워킹 파트너로 두고 있고, MediaTek은 비용을 20~30% 낮춘 e 변형 설계를 맡고 있으며, TSMC가 생산을 담당한다. Marvell은 이 구조에 추가되는 세 번째 설계 파트너가 될 수 있다.

배경에는 컴퓨팅 수요의 중심이 학습(training)에서 inference로 이동한 현실이 있다. Google의 7세대 TPU Ironwood는 회사가 말하는 “inference의 시대를 위한 첫 Google TPU”로, TPU v5p 대비 최고 성능이 10배 높고, 9,216개 칩을 잇는 슈퍼팟에서 42.5 FP8 exaflops를 낸다. Google은 올해 Ironwood를 수백만 개 단위로 구축할 계획이다.

논의의 핵심은 비용 구조다. 학습은 한 번의 대규모 작업이지만, inference는 모든 사용자 요청을 계속 처리해야 하므로 규모가 커질수록 비용이 누적된다. Google처럼 AI 검색, Gemini, Cloud AI API를 대량으로 운영하는 회사는 인당·요청당 비용을 조금만 줄여도 연간 수십억 달러를 아낄 수 있어, 목적별 custom silicon의 가치가 커진다.

이 관계는 처음부터 없던 이야기가 아니다. 2023년에는 Google이 Granite Redux라는 코드명의 칩을 Broadcom 대신 Marvell과 추진해 연간 수십억 달러를 절감하려 했다는 보도가 있었다. 하지만 지금은 Broadcom을 배제하는 대신, Broadcom·MediaTek·Marvell이 서로 다른 구간을 맡는 multi-supplier architecture로 방향이 바뀌었다.

Marvell도 존재감을 키우고 있다. 회사의 데이터센터 매출은 2026 회계연도에 $6.1 billion, 총매출은 $8.2 billion으로 전년 대비 42% 증가했다. Nvidia의 $2 billion 투자, Celestial AI 인수, 그리고 Google 논의까지 겹치며 custom AI chip 시장에서 입지를 넓히는 중이다.

시장은 빠르게 커지고 있다. TrendForce는 custom chip 판매가 2026년에 45% 늘고, Counterpoint Research는 2027년 Broadcom이 시장의 약 60%, Marvell이 약 25%를 차지할 것으로 본다. 결국 Google의 목표는 단순한 비용 절감이 아니라, 가장 큰 AI inference 워크로드를 버틸 수 있는 독자적인 공급망을 만드는 데 있다.