AI 的瓶頸不在模型，在銅礦和變壓器
模型不再是瓶頸，瓶頸全在模型「南邊」：芯片、內存、供電、冷卻，一路延伸到銅礦。需求無限而供給被物理和監管卡死，資本第一次能直接換成算力。
原視頻在 YouTube 上放不出來，用音頻聽：
核心論點 · 點時間戳可跳到原聲
瓶頸已經跑到模型南邊去了
Ben 說這是史上最重要的技術，所以需要一整套全新基礎設施：不只是新芯片、新系統軟件，還要新的供電方式，甚至要替換銅。Ragu 補了關鍵判斷：過去三年模型能力穩步上升，模型不再是瓶頸，瓶頸是「模型南邊的一切」。Martin 用創始人流向佐證——以前頂級創始人的硬件項目大概只佔 5% 甚至 3%，現在超過 20% 到 30%。創始人群體比 VC 群體聰明得多，他們已經先一步認定這是創新活躍區。
— Ben Horowitz / Ragul Raguram / Martin Casado需求無限，所以只擔心毛利
判斷需求是否真超過供給，Ragu 給了兩個信號：一是最懂需求的人在下鉅額採購單，hyperscaler 今年 capex 約 7000 億美元，明年據說合計要衝到 1 萬億；二是他們能看到來自前沿實驗室、AI 數據公司、企業、美國及國際各地的需求。Martin 補了一個反常的機制：正常生意你擔心增長，AI 因為需求無限、增長無限，你擔心的是公司毛利，也就是效率。而很多效率問題本質是硬件的物理限制——現有系統不是為 AI 工作負載建的。
— Ragul Raguram / Martin Casado芯片價格居然在漲
Martin 說這是從未見過的信號：芯片價格從來都是往下走的，價格曲線先這樣再回到這樣，而現在價格在漲。供給端基本全部訂到 2028 年，甚至出現過幾千塊 GPU 的多日拍賣。他還給了需求端的雙重擴張：一是單位工作消耗的 token 在暴漲，聊天或 agent 從 100 token 變成幾千 token；二是使用人數會從開發者擴展到所有知識工作者及更遠。對比互聯網時代，當時鋪下去的大部分是投機性的暗光纖，而今天每一塊造出來的 GPU 都已經預售出去了。
— Martin Casado服務器裡的內存能付雲遷移的錢
Martin 講了一個 CFO 的軼事：一家大型上市公司歷史上非常抗拒上雲，攢了很多服務器。做庫存盤點時發現，服務器裡的內存漲了這麼多，賣掉它足以支付整個上雲的遷移費用。Ragu 接著給出更硬的數字：在 Hot Chips 上，領先的內存廠商說，光是今天手裡的需求，就要用三年產能來滿足——這還只是今天的需求，不是未來需求。Martin 的總結是：電、冷卻、內存、GPU，你說得出名字的，我們都缺。
— Martin Casado / Ragul Raguram錢第一次能直接變成算力
Martin 說過去建東西是工程問題，可以往裡面砸工程師，但受工程物理約束，這就是《人月神話》的由來；現在更像資源限制——把錢倒進系統，系統產出結果，瓶頸是系統匹配投入資源的能力。Ben 把這條推到組織層面：創業世界過去都知道，我有兩年領先，你僱一千個工程師來追，只會把公司搞垮，九個人不能一個月生出一個孩子；但現在這招管用了，不是僱十萬人，而是拿三十億美元點亮一個宏大集群，Grok 或 Kimi 就可能突然冒出來。所有人都還在心理上適應這件事。
— Martin Casado / Ben Horowitz為一個模型單獨造 ASIC 開始划算
Martin 給了一個心智模型：今天訓一個前沿模型要 30 到 50 億美元，推理至少要還回這個數，假設兩倍就是 100 億美元。如果你能在推理上省 20% 效率，那就是 20 億美元，而 20 億美元足夠造一顆 ASIC。所以行業第一次到了「為一個模型單獨造 ASIC」也划算的節點。而且和傳統軟件不同，模型權重是固定的，沒有那麼多狀態和動態。他不確定世界會不會走向 per model ASIC，但這個模型解釋了架構為什麼會越來越為這些鉅額資本投入定製。
— Martin Casado機架功率把交流電逼出局
機架功率從大約 5 到 10 千瓦走向 100 到 250 千瓦，計算密度上升約 70 倍，冷卻從風冷變成必須液冷。Martin 說到了這個功率級別，交流電不再可用，必須轉直流——而直流本身也需要冷卻，而且極其危險，諷刺的是當年愛迪生正是靠演示交流電有多危險來推銷直流。此外還有政治環境：液冷不夠，得是環保液冷；有電不夠，得是給社會貢獻電而不是抽走電。約 10% 的數據中心在浪費大量水，做電力的寄生蟲，這些都會結束。
— Martin Casado只有 2% 的電工懂直流電
Martin 說數據中心的建築方式已經徹底過時：機架這麼密，地板承重、隔音牆都要重做，否則會擾民，沒有哪個州會允許。他還點出一個被忽略的漲價項——除了內存價格，漲得最快的領域之一是鋼筋混凝土。更硬的約束是人：數據中心裡 800 伏的電壓極其危險，而美國只有 2% 的電氣工程師或電工有直流電認證。Meta 有免費培訓項目在補人，但這也說明 AI 在搶工作的同時會造出很多新電工。
— Martin Casado2028 年電力缺口對不上
到 2028 年，新數據中心需要約 44 吉瓦的額外電力，而電網預計只新增約 25 吉瓦。Martin 解釋吉瓦有多大：他長大的 Flagstaff 有四五萬人，用電不到一個吉瓦，所以一個吉瓦基本能點亮並空調一整個城鎮。為什麼公用事業和 hyperscaler 不能建快點？需要人施工、需要許可、需要能插進去的電，還要自己建電廠，而變壓器和渦輪機都短缺。這不是軟件問題，不是讓工程師週末加班就能解決的。
— Martin Casado美國禁數據中心，把機會送出國
Martin 說情況已經糟到新公司要拿 GPU 常常得去墨西哥或澳大利亞，因為在美國太難。這等於用禁止數據中心的方式，把就業和長期經濟機會送給別的國家。他給出的標準是：數據中心應當回饋社區——電更好、沒噪音、沒水問題、還能增加就業，然後所有人都按這個標準來。他舉了已經做到的例子：有的數據中心自供電，白天給州里送電，晚上州里不需要時再借電，因為電廠始終在按峰值容量發電，而數據中心晝夜穩定，城市白天高夜裡低，這是共生關係。
— Martin Casado不該叫 AI，該叫機器智能
Martin 解釋基金為什麼叫 Machine Age：第一，AI 是錯的名字，應該叫機器智能。因為這不是人類思考的方式——它是對人類思考的緩存、人類思想的集合；到今天我們還不知道怎麼讓一個沒有知識的 AI 從零重建語言。第二，AI 這個正式術語在計算機科學裡已經用了 70 年，還揹著科幻和 Bostrom 那類包袱。第三，要強調 machine 那一半：軟件吞噬世界的人最終來到一個地方——你把錢倒進去，卻被下面的真實機器卡住。
— Martin Casado英偉達不會去撿銀磚
面對「新公司還能不能切進來」的問題，Ragu 說想要 tokens per second per dollar、tokens per watt、tokens per rack 這些指標 10 倍提升，就必須有新創新，而新創新傳統上來自創始人從第一性原理出發、用不同方式解題。Martin 補了市場規律：現有芯片巨頭市值幾萬億美元，哪怕只切 5% 也是巨大的私營公司；英偉達不是不能做，而是它盯的是貢獻同樣增長的 90%。他引 Alex Rampell 的故事：Dan Rose 說你能撿很多銀磚，但我金磚多到撿不完，所以我看都不會看銀磚。
— Ragul Raguram / Martin Casado這些創始人必須是系統創始人
Ragu 說這類創始人和軟件創始人不同：不能只是研究員或優秀計算機科學家，必須能架構和設計芯片或系統，還要想清楚怎麼製造、誰來供應，以及一整套下游環節。最好的創始人像 Jensen 那樣，在設計芯片之前就把整個生態想清楚。Martin 補了兩個環境變化：一是實驗室太缺貨，願意在硬件還沒出來時就簽單，所以早期就有信號；二是資本供給寬鬆，後續輪有大量資金。他還說這類公司第一輪就是幾億美元級別，錢在產品之前就大量投入。
— Ragul Raguram / Martin Casado年輕創始人變少是因為供應鏈
針對「年輕創始人是不是變少了」，Martin 說如果做的東西供應鏈複雜、要製造、技術複雜，經驗就有幫助。Elon 和 Travis 年輕時做的也是軟件公司，連最好的創始人都需要先積累建公司、建技術的經驗，才畢業到更復雜、更多活動部件的領域。一邊是 Michael 這樣很年輕、很聰明的人，但他做的是純軟件 AI；另一邊是 Elon 或 Travis 這樣有足夠經驗的人。他還說這個領域被整個行業和學術界冷落了 20 年，不是增長區，所以有經驗的人本來就少。
— Martin Casado原話 · 已逐字校驗
Here, it goes all the way down to the copper mine. That's how widespread this thing is going to be.
在這裡，它一路延伸到銅礦。這件事的波及面就是這麼大。
Martin Casado3:04
Like we've never seen prices go like up on chips. If the prices went down, they always go down.
我們從沒見過芯片價格往上走。價格從來都是往下走的，永遠往下走。
Martin Casado6:06
the leading memory runner said the demand they have today will take them three years of capacity
領先的內存廠商說，他們今天手裡的需求就要用掉三年產能。
Martin Casado9:14
This, there's nothing between the money going in and then the hardware, you know, creating intelligence.
而在這裡，錢投進去和硬件產出智能之間，什麼都沒有。
Martin Casado16:22
Nine women can't have a baby in a month. Like that's it. Like that never works. Okay. Now that works.
九個女人也沒法一個月生出一個孩子。就是這樣，這從來行不通。好，現在它行得通了。
Ben Horowitz17:32
Only 2% of electrical engineers or electricians in the U.S. have been certified on DC power.
美國只有 2% 的電氣工程師或電工拿到了直流電認證。
Martin Casado31:22
Artificial intelligence was the wrong word. Like we shouldn't have called it, it's machine intelligence.
人工智能是個錯的名字。我們本不該這麼叫，它是機器智能。
Martin Casado38:35
It sounds like you can collect a lot of silver bricks. But I'm like, I have so many gold bricks, I can't even pick them all up.
聽起來你能撿很多銀磚。但我的情況是，我的金磚多到都撿不完。
Martin Casado41:42
數字與實體
| hyperscaler 今年 capex | 約 7000 億美元 | 5:04 |
| 供給預訂情況 | 基本全部訂到 2028 年 | 6:06 |
| token 需求年增速預期 | 接近 1000% | 12:16 |
| 開發者數量 | 約 3000 萬 | 17:32 |
| 訓練前沿模型成本 | 30 到 50 億美元 | 26:49 |
| 計算密度提升 | 約 70 倍 | 28:52 |
| 2028 年數據中心電力缺口 | 需約 44 吉瓦，電網預計新增約 25 吉瓦 | 33:31 |
術語
- hyperscaler超大規模雲廠商
- 指自建超大規模數據中心的雲巨頭，如 AWS、微軟、谷歌等。
- ASIC專用集成電路
- 為特定任務定製的芯片，相比通用 GPU 更省電但只做一件事。
- per model ASIC按模型定製芯片
- 為某一個固定權重的模型單獨設計一顆芯片，而非通用加速器。
- dark fiber暗光纖
- 互聯網泡沫時期鋪好卻從未點亮使用的冗餘光纖。
- Mythical Man Month人月神話
- 軟件工程經典論斷：向延期的項目加人只會讓它更晚。
收聽指南
關注 AI 基礎設施、算力供應鏈、數據中心與能源投資的創業者和投資人，以及想理解硬件創業為何重新變熱的技術負責人。
結尾 52:00 後的基金團隊介紹和免責聲明可跳過。