芯片設計正被AI加速,造芯、供電、連接卻越來越難
AI能把芯片設計壓縮到三個月,但流片、封裝、上架仍要九個月——技術瓶頸並未消失,只是從設計端搬到了製造、內存和電力端。
原視頻在 YouTube 上放不出來,用音頻聽:
核心論點 · 點時間戳可跳到原聲
AI把設計變容易,瓶頸就搬到了製造
基辛格說,當技術讓某件事變容易時,瓶頸只會移到別處。他以自己和主持人假設合作設計一款新芯片為例:就算有完美的AI工作負載理解、完美的工具,三個月就能完成設計,但流片要三個月、先進封裝又要三個月、再做成機架級方案——前前後後要九個月才能真正用上。等真正規模化部署、軟件跑起來,可能已經過去一年半,而當初針對的AI負載早已變了樣。他舉 Graphcore 為例:設計本身不差,但世界已經往前走了。
— Pat GelsingerHBM 是個難看的內存,卻是當下最優解
基辛格直言 HBM(高帶寬內存)位密度差、受限於芯片邊緣的帶寬(shoreline bandwidth)、功耗和散熱都成問題,DRAM 本身也不耐熱,還要把一切都擠在一個地方——是個「可怕的」方案,只是目前能拿到的最好方案。他強調 AI 本質上是一種「內存計算型」負載,這意味著真正卡住算力釋放的不是算力本身,而是能不能喂得上數據。
— Pat Gelsinger上百種AI芯片終將收斂成少數贏家
面對市面上已有上百種AI推理加速芯片的現狀,基辛格認為這是暫時現象,會向少數幾個贏家收斂,理由有三:一是像預填充/解碼這樣的細分專用層級在歷史上從不可持續,負載會不斷遷移;二是當前的LLM架構本身正逼近極限,未來轉向3D建模、化學分子等場景會帶來算法層面的變化;三是上規模需要鉅額資本和真實負載,大客戶(OpenAI、NVIDIA、Anthropic等)最終會挑贏家,把軟硬件協同作為選擇標準,自然淘汰掉大部分競爭者。
— Pat Gelsinger內存三十年零創新,如今迎來突破窗口
基辛格說自己親歷過至少五種新內存架構(包括 Optane),行業裡見過的新內存嘗試接近一百種,但過去三十年真正跑出來的主流內存——還是只有DRAM、SRAM、flash,零增量。原因是內存行業長期被殘酷的商品化週期支配,五年裡往往只有一年賺錢。但現在不一樣了:三大內存廠商都已躋身全球市值前20,AI作為「內存型負載」第一次讓資本和技術需求同時到位,他本人已經投了一家仍處於隱身期的新內存公司,押注鐵電材料等新物理機制。
— Pat Gelsinger銅已到極限,光互聯將在28-29年攻入核心
基辛格重申25年前就「宣判了銅的死刑」,認為所有IO最終都該走向光學。他解釋物理驅動力:銅作為波導正在變得越來越短,現在讓銅在5米內工作的成本已經高於讓光在100米內工作。他判斷行業會在2028-2029年前後轉向CPO/NPO等封裝內光學方案,但同時提到英偉達的NVL72是個警示:它是工程奇蹟,卻是製造噩夢,整個行業多花了一年半才消化它——如果光學供應鏈當初更成熟,本可以更早用更好的功耗和成本做出同等規模的方案。
— Pat Gelsinger電力容量正成為AI擴張的硬上限
基辛格給出一個判斷:在AI數字時代,能源容量等於經濟容量。美國過去十到十五年,淘汰煤電的速度和增加可再生能源的速度幾乎相抵,全國能源容量基本停滯;近五年雖有大量投入,年增速也只有約4%。他直言這會成為逆風——為什麼要建新數據中心、買一百萬塊GPU,如果根本供不上電?他預計未來會有越來越多數據中心項目違約,並點名甲骨文的案例是「第一個信號」,後面還會有更多。
— Pat Gelsinger虛擬化的下一戰場是管理AI智能體
節目收尾回到基辛格的VMware背景,他認為虛擬機這個抽象依然是計算層級裡該長期存在的基礎模型,但服務對象正在反轉:過去VMware管理的是面向人類和硬件的工作負載、網絡、存儲,現在要重新打造的是面向「智能體蜂群」的版本——誰來管理智能體、誰來為它們設置安全策略、誰來做性能和遷移(「給智能體用的V-motion」)。同時他提出這需要兩條腿走路:既要讓智能體本身安全高效,也要讓人類能設定策略、寫「憲法」式的約束並看儀表盤。
— Pat Gelsinger原話 · 已逐字校驗
Whenever you have the technology to make something easy, that means the bottleneck moves somewhere else.
每當你有了能讓某件事變容易的技術,瓶頸就會轉移到別的地方。
Pat Gelsinger8:20
It took me three months to design it, but it's nine months until I can actually start to use it.
設計花了我三個月,但要再等九個月我才能真正用上它。
Pat Gelsinger10:30
HBM is a hideous memory. It's just the best one that we've got.
HBM是一種可怕的內存,只是我們目前擁有的最好選擇。
Pat Gelsinger11:31
historically, there have not been 100 competing processor vendors in any industry ever, right?
歷史上,從來沒有任何一個行業同時存在過一百家互相競爭的處理器廠商。
Pat Gelsinger14:35
And exactly how many major new memories have we had over the last 30 years? Zero. Zero.
過去三十年裡我們到底出現過多少種重大的新型內存?零。零。
Pat Gelsinger22:58
I think the memory industry has now increased by market cap by $2.5 trillion over the last four years.
我認為過去四年內存行業的市值已經增長了2.5萬億美元。
Pat Gelsinger27:04
In reality, I should have never built an NBL 72. Yeah. You know, it's an engineering marvel and it's a manufacturing nightmare, right?
說實話,我本不該把NVL72造出來。它是工程學上的奇蹟,也是製造上的噩夢。
Pat Gelsinger36:39
why build a new data center and buy, you know, the million GPUs if I can't power them.
如果供不上電,為什麼還要建新數據中心、買上一百萬塊GPU呢。
Pat Gelsinger45:56
數字與實體
| 芯片設計到可用的週期 | 設計約3個月,流片到機架化再需約9個月 | 8:20 |
| 過去四年內存行業市值增長 | 2.5萬億美元 | 27:04 |
| 美國近五年國家能源容量年增速 | 約4% | 43:47 |
| 燃氣輪機交付週期 | 約8年 | 44:54 |
| 美國最近一座新核反應堆投運時間 | 20年前 | 45:56 |
術語
- HBM高帶寬內存
- 目前AI芯片主流的堆疊內存方案,帶寬、密度、散熱都有明顯短板。
- pre-fill / decode預填充 / 解碼
- 大模型推理的兩個階段,前者算力密集、後者帶寬敏感,常需不同硬件。
- CPO / NPO封裝內光學 / 近封裝光學
- 把光學互聯做進芯片封裝內部或附近,用來替代銅互連。
- PIM內存內計算
- 把部分計算邏輯下沉到內存芯片裡,減少數據搬運開銷。
- OCS光電路交換
- 針對AI大流量、可預測通信模式設計的光學交換架構,區別於傳統包交換網絡。
- guard banding保護餘量設計
- 為應對最壞情況預留的電壓/功耗餘量,實際造成大量能量浪費。
收聽指南
關心AI基礎設施下一個瓶頸在哪的芯片/數據中心從業者、硬件方向投資人、關注內存和電力供應鏈的研究者。
開場2:08-8:00關於個人求學與英特爾早年經歷的部分信息密度較低,可直接跳到芯片設計瓶頸的討論。