芯片设计正被AI加速,造芯、供电、连接却越来越难
AI能把芯片设计压缩到三个月,但流片、封装、上架仍要九个月——技术瓶颈并未消失,只是从设计端搬到了制造、内存和电力端。
原视频在 YouTube 上放不出来,用音频听:
核心论点 · 点时间戳可跳到原声
AI把设计变容易,瓶颈就搬到了制造
基辛格说,当技术让某件事变容易时,瓶颈只会移到别处。他以自己和主持人假设合作设计一款新芯片为例:就算有完美的AI工作负载理解、完美的工具,三个月就能完成设计,但流片要三个月、先进封装又要三个月、再做成机架级方案——前前后后要九个月才能真正用上。等真正规模化部署、软件跑起来,可能已经过去一年半,而当初针对的AI负载早已变了样。他举 Graphcore 为例:设计本身不差,但世界已经往前走了。
— Pat GelsingerHBM 是个难看的内存,却是当下最优解
基辛格直言 HBM(高带宽内存)位密度差、受限于芯片边缘的带宽(shoreline bandwidth)、功耗和散热都成问题,DRAM 本身也不耐热,还要把一切都挤在一个地方——是个「可怕的」方案,只是目前能拿到的最好方案。他强调 AI 本质上是一种「内存计算型」负载,这意味着真正卡住算力释放的不是算力本身,而是能不能喂得上数据。
— Pat Gelsinger上百种AI芯片终将收敛成少数赢家
面对市面上已有上百种AI推理加速芯片的现状,基辛格认为这是暂时现象,会向少数几个赢家收敛,理由有三:一是像预填充/解码这样的细分专用层级在历史上从不可持续,负载会不断迁移;二是当前的LLM架构本身正逼近极限,未来转向3D建模、化学分子等场景会带来算法层面的变化;三是上规模需要巨额资本和真实负载,大客户(OpenAI、NVIDIA、Anthropic等)最终会挑赢家,把软硬件协同作为选择标准,自然淘汰掉大部分竞争者。
— Pat Gelsinger内存三十年零创新,如今迎来突破窗口
基辛格说自己亲历过至少五种新内存架构(包括 Optane),行业里见过的新内存尝试接近一百种,但过去三十年真正跑出来的主流内存——还是只有DRAM、SRAM、flash,零增量。原因是内存行业长期被残酷的商品化周期支配,五年里往往只有一年赚钱。但现在不一样了:三大内存厂商都已跻身全球市值前20,AI作为「内存型负载」第一次让资本和技术需求同时到位,他本人已经投了一家仍处于隐身期的新内存公司,押注铁电材料等新物理机制。
— Pat Gelsinger铜已到极限,光互联将在28-29年攻入核心
基辛格重申25年前就「宣判了铜的死刑」,认为所有IO最终都该走向光学。他解释物理驱动力:铜作为波导正在变得越来越短,现在让铜在5米内工作的成本已经高于让光在100米内工作。他判断行业会在2028-2029年前后转向CPO/NPO等封装内光学方案,但同时提到英伟达的NVL72是个警示:它是工程奇迹,却是制造噩梦,整个行业多花了一年半才消化它——如果光学供应链当初更成熟,本可以更早用更好的功耗和成本做出同等规模的方案。
— Pat Gelsinger电力容量正成为AI扩张的硬上限
基辛格给出一个判断:在AI数字时代,能源容量等于经济容量。美国过去十到十五年,淘汰煤电的速度和增加可再生能源的速度几乎相抵,全国能源容量基本停滞;近五年虽有大量投入,年增速也只有约4%。他直言这会成为逆风——为什么要建新数据中心、买一百万块GPU,如果根本供不上电?他预计未来会有越来越多数据中心项目违约,并点名甲骨文的案例是「第一个信号」,后面还会有更多。
— Pat Gelsinger虚拟化的下一战场是管理AI智能体
节目收尾回到基辛格的VMware背景,他认为虚拟机这个抽象依然是计算层级里该长期存在的基础模型,但服务对象正在反转:过去VMware管理的是面向人类和硬件的工作负载、网络、存储,现在要重新打造的是面向「智能体蜂群」的版本——谁来管理智能体、谁来为它们设置安全策略、谁来做性能和迁移(「给智能体用的V-motion」)。同时他提出这需要两条腿走路:既要让智能体本身安全高效,也要让人类能设定策略、写「宪法」式的约束并看仪表盘。
— Pat Gelsinger原话 · 已逐字校验
Whenever you have the technology to make something easy, that means the bottleneck moves somewhere else.
每当你有了能让某件事变容易的技术,瓶颈就会转移到别的地方。
Pat Gelsinger8:20
It took me three months to design it, but it's nine months until I can actually start to use it.
设计花了我三个月,但要再等九个月我才能真正用上它。
Pat Gelsinger10:30
HBM is a hideous memory. It's just the best one that we've got.
HBM是一种可怕的内存,只是我们目前拥有的最好选择。
Pat Gelsinger11:31
historically, there have not been 100 competing processor vendors in any industry ever, right?
历史上,从来没有任何一个行业同时存在过一百家互相竞争的处理器厂商。
Pat Gelsinger14:35
And exactly how many major new memories have we had over the last 30 years? Zero. Zero.
过去三十年里我们到底出现过多少种重大的新型内存?零。零。
Pat Gelsinger22:58
I think the memory industry has now increased by market cap by $2.5 trillion over the last four years.
我认为过去四年内存行业的市值已经增长了2.5万亿美元。
Pat Gelsinger27:04
In reality, I should have never built an NBL 72. Yeah. You know, it's an engineering marvel and it's a manufacturing nightmare, right?
说实话,我本不该把NVL72造出来。它是工程学上的奇迹,也是制造上的噩梦。
Pat Gelsinger36:39
why build a new data center and buy, you know, the million GPUs if I can't power them.
如果供不上电,为什么还要建新数据中心、买上一百万块GPU呢。
Pat Gelsinger45:56
数字与实体
| 芯片设计到可用的周期 | 设计约3个月,流片到机架化再需约9个月 | 8:20 |
| 过去四年内存行业市值增长 | 2.5万亿美元 | 27:04 |
| 美国近五年国家能源容量年增速 | 约4% | 43:47 |
| 燃气轮机交付周期 | 约8年 | 44:54 |
| 美国最近一座新核反应堆投运时间 | 20年前 | 45:56 |
术语
- HBM高带宽内存
- 目前AI芯片主流的堆叠内存方案,带宽、密度、散热都有明显短板。
- pre-fill / decode预填充 / 解码
- 大模型推理的两个阶段,前者算力密集、后者带宽敏感,常需不同硬件。
- CPO / NPO封装内光学 / 近封装光学
- 把光学互联做进芯片封装内部或附近,用来替代铜互连。
- PIM内存内计算
- 把部分计算逻辑下沉到内存芯片里,减少数据搬运开销。
- OCS光电路交换
- 针对AI大流量、可预测通信模式设计的光学交换架构,区别于传统包交换网络。
- guard banding保护余量设计
- 为应对最坏情况预留的电压/功耗余量,实际造成大量能量浪费。
收听指南
关心AI基础设施下一个瓶颈在哪的芯片/数据中心从业者、硬件方向投资人、关注内存和电力供应链的研究者。
开场2:08-8:00关于个人求学与英特尔早年经历的部分信息密度较低,可直接跳到芯片设计瓶颈的讨论。