AI 芯片出貨量將跳一個量級:從百萬顆到 1500 萬顆
Broadcom 總裁展示 AI 芯片路線圖:從百萬顆走向 1500 萬顆,「beast」是 8 個可堆疊計算 die 加 16 個 HBM 的最大封裝,五家前沿實驗室有四家在合作。
核心論點 · 點時間戳可跳到原聲
自研芯片的公司仍要外包最後一步
Google、Meta、Amazon,以及一部分前沿大模型公司,都可以有自己的芯片設計團隊,自己定架構和 interconnect,但最終仍要去「把東西造出來」:跟代工廠和開發套件打交道,管理晶體管之間連接的時序和延遲。Broadcom 就是這類按費收費的後端設計服務商裡最大的一家。客戶找它,不只是買設計能力,還會買到高速 I/O、高速算力、內存控制器等一批現成 IP。
— Ian Cutress最不愛說話的芯片公司突然開始講自己
Broadcom 對外是個謎:幾乎沒有公關部門,很少主動披露。偶爾發一顆 Tomahawk 網絡芯片,或者在 ServeTheHome 跟 Patrick Kennedy 聊聊。過去一年,總裁 Charlie 罕見地站上發布會舞臺,講 Broadcom 在做什麼、為什麼把客戶群從傳統網絡芯片擴展到 AI 定製芯片。這張展示三檔芯片的圖就是線索。
— Ian Cutress今天的 AI 服務器只是三檔裡最小的一檔
Charlie 展示的三檔芯片,最左邊一檔現在已經在幾十萬套系統裡出貨,大小跟桌上這顆 Cisco 芯片差不多:中間一個計算 die,周圍四到六個 HBM,用類似臺積電 CoWoS 的封裝。Broadcom 說過去一年,這類芯片已經為客戶出貨超過一百萬顆。這一檔是今天 AI 服務器的現實。
— Ian Cutress越大的封裝反而出貨量越高
中間檔明顯變大:兩到四個計算/IO die,周圍八到十二個 HBM,AMD MI455X 也算這種設計形態。Charlie 給的預期出貨量是關鍵:中間檔要出 500 萬顆,最右邊那檔要出 1500 萬顆。放到「過去一年一百萬顆」旁邊看,這不是線性增長,而是下一代 AI 定製芯片的出貨量直接上一個量級。
— Ian Cutress最右那顆可能是計算 die 疊計算 die
最右的 beast:紅色是八個計算 die,分成兩列四行,而且是堆疊的。Charlie 掀開紅色露出底下紫色,底下可能是 SRAM,也可能 SRAM 在上;如果是 compute-on-compute,實際等於十六個計算 die。每個計算 die 配兩個 HBM,所以一顆封裝裡有十六個 HBM 模塊,上下兩端各有兩個淺藍色 IO die,封裝邊緣還留了給光模塊的開口。
— Ian Cutress前沿模型公司幾乎都在做自己的芯片
Charlie 說,五家最領先的前沿模型實驗室裡,有四家正在跟 Broadcom 合作做定製計算芯片。OpenAI、Anthropic 這類公司自己定想要的設計,Broadcom 做後端服務、跟臺積電對接,最後再找 Supermicro、WiWynn 之類的夥伴放進數據中心規模化部署。這也解釋了為什麼 Broadcom 要擴產能:它不僅服務傳統網絡客戶,還在接大模型公司的單。
— Ian Cutress卡住擴產的可能不是封裝,是 HBM
真正卡脖子的可能不是封裝,而是高帶寬內存夠不夠分:會不會出現 HBM 之外、介於 DDR/LPDDR 和 HBM 之間的新形態來補位?另外 Broadcom 在臺上說已經跟一個夥伴部署 2nm 芯片,尺寸比 beast 小一點,時間更近。這提醒我們,未來幾年先進封裝和 HBM 的產能,會跟定製芯片的訂單一起被捲進去。
— Ian Cutress最先落地的 2nm 定製芯片可能來自日本
主持人把 Broadcom 提到的那個「馬上要出、小一點」的 2nm 芯片鎖定了:他問了 Chips and Cheese 的 George,兩人判斷這是富士通的 Monaka——一顆 2nm 計算 die、搭配 5nm SRAM die,中間再放一箇中央 IO die。這顆芯片之前已經在幾個會議上以 mockup 或測試硅片的形式露過面。
— Ian Cutress原話 · 已逐字校驗
You can have a chip design team. You can decide what your architecture is. You can decide what your interconnect is. But then you still have to go build the thing. You still have to work with the foundry, work with the development kits in order to put those ideas into silicon.
你可以有自己的芯片設計團隊,可以決定架構和互聯方案,但最終還是要把它造出來;要跟代工廠和開發套件打交道,才能把這些想法變成硅片。
Ian Cutress1:06
But the point is Cisco doesn't have a chip design team. They had to go out and find a company to go build their silicon for them.
關鍵在於 Cisco 沒有芯片設計團隊,只能出去找一家公司替他們把芯片造出來。
Ian Cutress2:07
Broadcom are a little bit of an enigma from the outside because they don't really have a press department. They don't really tell anybody anything much about what they're doing.
從外面看,Broadcom 是個謎:他們沒有真正意義上的公關部門,幾乎不跟任何人講自己在做什麼。
Ian Cutress3:09
Charlie stated that in the past year they have shipped just over a million of these for their customers.
Charlie 說過去一年他們已經為客戶出貨了超過一百萬顆這類芯片。
Ian Cutress4:09
Charlie said that the one in the middle, they expect to ship 5 million of those chips. The one on the right, they expect to ship 15 million.
Charlie 說中間那一檔,預期出貨 500 萬顆;最右邊那一檔,預期出貨 1500 萬顆。
Ian Cutress5:09
What you're seeing there is eight compute dies. That's the red. That's split into uh two columns and four rows. But these are stacked compute dies.
你看到的是八個計算 die,就是紅色部分,分成兩列四行,而且是堆疊的計算 die。
Ian Cutress6:11
What Charlie said on stage is that they're working with four of the five leading frontier model lab companies. So thinking your open AIs and your anthropics to go build compute chips for them.
Charlie 在臺上說,他們正與五家頂級前沿模型實驗室中的四家合作,像 OpenAI、Anthropic 這樣的公司會請 Broadcom 為他們設計算力芯片。
Ian Cutress7:11
數字與實體
| 路線圖中間檔預期出貨量 | 500 萬顆 | 5:09 |
| 路線圖最右檔(beast)預期出貨量 | 1500 萬顆 | 5:09 |
| The beast 的 HBM 模塊數 | 16 個 | 6:11 |
| 合作的前沿模型實驗室數量 | 5 家中的 4 家 | 7:11 |
術語
- back-end design services後端設計服務
- 芯片前端設計之後、交給代工廠生產前的物理設計環節,含布局布線、時序收斂等。
- HBM高帶寬內存
- 通過先進封裝與計算芯片緊鄰堆疊的 DRAM,帶寬遠高於普通 DDR/LPDDR。
- CoWoS臺積電 2.5D 封裝
- 臺積電的 2.5D 封裝工藝,把多個計算 die 和 HBM 並排放到硅中介層上。
- scaleup fabricscale-up 互聯結構
- 把多顆加速芯片連成一臺邏輯大機器的專有互聯,區別於普通數據中心網絡。
收聽指南
關注 ASIC 定製芯片、先進封裝和 HBM 供應鏈的投資者與芯片工程師,以及想看清 OpenAI/Anthropic 自研芯片布局的創業者。
熟悉後端設計服務的人可跳過 0:01–2:07;數字重點在 5:09 之後。