AI 芯片出货量将跳一个量级:从百万颗到 1500 万颗
Broadcom 总裁展示 AI 芯片路线图:从百万颗走向 1500 万颗,「beast」是 8 个可堆叠计算 die 加 16 个 HBM 的最大封装,五家前沿实验室有四家在合作。
核心论点 · 点时间戳可跳到原声
自研芯片的公司仍要外包最后一步
Google、Meta、Amazon,以及一部分前沿大模型公司,都可以有自己的芯片设计团队,自己定架构和 interconnect,但最终仍要去「把东西造出来」:跟代工厂和开发套件打交道,管理晶体管之间连接的时序和延迟。Broadcom 就是这类按费收费的后端设计服务商里最大的一家。客户找它,不只是买设计能力,还会买到高速 I/O、高速算力、内存控制器等一批现成 IP。
— Ian Cutress最不爱说话的芯片公司突然开始讲自己
Broadcom 对外是个谜:几乎没有公关部门,很少主动披露。偶尔发一颗 Tomahawk 网络芯片,或者在 ServeTheHome 跟 Patrick Kennedy 聊聊。过去一年,总裁 Charlie 罕见地站上发布会舞台,讲 Broadcom 在做什么、为什么把客户群从传统网络芯片扩展到 AI 定制芯片。这张展示三档芯片的图就是线索。
— Ian Cutress今天的 AI 服务器只是三档里最小的一档
Charlie 展示的三档芯片,最左边一档现在已经在几十万套系统里出货,大小跟桌上这颗 Cisco 芯片差不多:中间一个计算 die,周围四到六个 HBM,用类似台积电 CoWoS 的封装。Broadcom 说过去一年,这类芯片已经为客户出货超过一百万颗。这一档是今天 AI 服务器的现实。
— Ian Cutress越大的封装反而出货量越高
中间档明显变大:两到四个计算/IO die,周围八到十二个 HBM,AMD MI455X 也算这种设计形态。Charlie 给的预期出货量是关键:中间档要出 500 万颗,最右边那档要出 1500 万颗。放到「过去一年一百万颗」旁边看,这不是线性增长,而是下一代 AI 定制芯片的出货量直接上一个量级。
— Ian Cutress最右那颗可能是计算 die 叠计算 die
最右的 beast:红色是八个计算 die,分成两列四行,而且是堆叠的。Charlie 掀开红色露出底下紫色,底下可能是 SRAM,也可能 SRAM 在上;如果是 compute-on-compute,实际等于十六个计算 die。每个计算 die 配两个 HBM,所以一颗封装里有十六个 HBM 模块,上下两端各有两个浅蓝色 IO die,封装边缘还留了给光模块的开口。
— Ian Cutress前沿模型公司几乎都在做自己的芯片
Charlie 说,五家最领先的前沿模型实验室里,有四家正在跟 Broadcom 合作做定制计算芯片。OpenAI、Anthropic 这类公司自己定想要的设计,Broadcom 做后端服务、跟台积电对接,最后再找 Supermicro、WiWynn 之类的伙伴放进数据中心规模化部署。这也解释了为什么 Broadcom 要扩产能:它不仅服务传统网络客户,还在接大模型公司的单。
— Ian Cutress卡住扩产的可能不是封装,是 HBM
真正卡脖子的可能不是封装,而是高带宽内存够不够分:会不会出现 HBM 之外、介于 DDR/LPDDR 和 HBM 之间的新形态来补位?另外 Broadcom 在台上说已经跟一个伙伴部署 2nm 芯片,尺寸比 beast 小一点,时间更近。这提醒我们,未来几年先进封装和 HBM 的产能,会跟定制芯片的订单一起被卷进去。
— Ian Cutress最先落地的 2nm 定制芯片可能来自日本
主持人把 Broadcom 提到的那个「马上要出、小一点」的 2nm 芯片锁定了:他问了 Chips and Cheese 的 George,两人判断这是富士通的 Monaka——一颗 2nm 计算 die、搭配 5nm SRAM die,中间再放一个中央 IO die。这颗芯片之前已经在几个会议上以 mockup 或测试硅片的形式露过面。
— Ian Cutress原话 · 已逐字校验
You can have a chip design team. You can decide what your architecture is. You can decide what your interconnect is. But then you still have to go build the thing. You still have to work with the foundry, work with the development kits in order to put those ideas into silicon.
你可以有自己的芯片设计团队,可以决定架构和互联方案,但最终还是要把它造出来;要跟代工厂和开发套件打交道,才能把这些想法变成硅片。
Ian Cutress1:06
But the point is Cisco doesn't have a chip design team. They had to go out and find a company to go build their silicon for them.
关键在于 Cisco 没有芯片设计团队,只能出去找一家公司替他们把芯片造出来。
Ian Cutress2:07
Broadcom are a little bit of an enigma from the outside because they don't really have a press department. They don't really tell anybody anything much about what they're doing.
从外面看,Broadcom 是个谜:他们没有真正意义上的公关部门,几乎不跟任何人讲自己在做什么。
Ian Cutress3:09
Charlie stated that in the past year they have shipped just over a million of these for their customers.
Charlie 说过去一年他们已经为客户出货了超过一百万颗这类芯片。
Ian Cutress4:09
Charlie said that the one in the middle, they expect to ship 5 million of those chips. The one on the right, they expect to ship 15 million.
Charlie 说中间那一档,预期出货 500 万颗;最右边那一档,预期出货 1500 万颗。
Ian Cutress5:09
What you're seeing there is eight compute dies. That's the red. That's split into uh two columns and four rows. But these are stacked compute dies.
你看到的是八个计算 die,就是红色部分,分成两列四行,而且是堆叠的计算 die。
Ian Cutress6:11
What Charlie said on stage is that they're working with four of the five leading frontier model lab companies. So thinking your open AIs and your anthropics to go build compute chips for them.
Charlie 在台上说,他们正与五家顶级前沿模型实验室中的四家合作,像 OpenAI、Anthropic 这样的公司会请 Broadcom 为他们设计算力芯片。
Ian Cutress7:11
数字与实体
| 路线图中间档预期出货量 | 500 万颗 | 5:09 |
| 路线图最右档(beast)预期出货量 | 1500 万颗 | 5:09 |
| The beast 的 HBM 模块数 | 16 个 | 6:11 |
| 合作的前沿模型实验室数量 | 5 家中的 4 家 | 7:11 |
术语
- back-end design services后端设计服务
- 芯片前端设计之后、交给代工厂生产前的物理设计环节,含布局布线、时序收敛等。
- HBM高带宽内存
- 通过先进封装与计算芯片紧邻堆叠的 DRAM,带宽远高于普通 DDR/LPDDR。
- CoWoS台积电 2.5D 封装
- 台积电的 2.5D 封装工艺,把多个计算 die 和 HBM 并排放到硅中介层上。
- scaleup fabricscale-up 互联结构
- 把多颗加速芯片连成一台逻辑大机器的专有互联,区别于普通数据中心网络。
收听指南
关注 ASIC 定制芯片、先进封装和 HBM 供应链的投资者与芯片工程师,以及想看清 OpenAI/Anthropic 自研芯片布局的创业者。
熟悉后端设计服务的人可跳过 0:01–2:07;数字重点在 5:09 之后。