超級智能困在數據中心裡,離開它才算真的開始
Arda創始人Bob McGrew認為自動化研究員只是一次性加速而非遞歸自我改進,真正的瓶頸是物理世界:實驗要在溼實驗室跑,機器人要在工廠裝配,智能必須走出數據中心才能變成生產力。
原視頻在 YouTube 上放不出來,用音頻聽:
核心論點 · 點時間戳可跳到原聲
硬起飛論錯在把研究員當成瓶頸
流行說法是:自動化掉90%研究員工作就能10倍加速,自動化99%就是100倍——這是遞歸自我改進的核心敘事。McGrew認為這從根本上錯了,因為研究員從來不是瓶頸,真正限制發現速度的是GPU數量和實驗本身。他在OpenAI當首席研究官時親歷的限制因素不是能招多少研究員,而是手頭有多少GPU、算力是否集中在對的地方。自動化研究員是一次性的巨大提升,類似從GPT-4o到帶推理和工具的o3那樣的躍遷,但它不會開啟自我強化循環,因為從90%最優提升到99%最優的差距其實不大。
— Bob McGrew實驗室模型和大模型公司各管各的賽道
McGrew提出一個經濟學框架:實驗室生產的是廉價智能,而智能的互補品是物理層——溼實驗室、GPU排布這些。當生成假設變得便宜,物理執行的部分反而變得稀缺。他的判斷是,Anthropic、OpenAI未必在建設溼實驗室上有比較優勢,所以生物、機器人這類物理密集型領域不一定會被幾家大模型公司通吃,留給創業公司的空間很大。
— Bob McGrew美國設計iPhone卻造不起iPhone的真正原因
iPhone每年有75%的零件會變化,只有25%留在高度自動化產線上,其餘75%靠人工組裝,因為今天的自動化是針對單一物理問題定製的機器,換一代產品就得推倒重來。汽車產線花兩年、2億美元把自動化率做到位,之後能用同一套設備生產7年,經濟賬算得過來;但iPhone這種產品如果想自動化,必須從25%一路提到90%以上才能攤平成本,而且設備還要能跟著產品換代重新配置。Arda想解決的正是這個問題:讓自動化產線像重新培訓工人一樣,能在7天內重新配置。
— Bob McGrew機器人問題分兩種,閉合世界才是當下能打的仗
McGrew把機器人問題分成開放世界和閉合世界:打掃一個從沒見過、以後也不會再去的臥室是開放世界問題,需要接近人類的通用智能;裝配線是閉合世界,環境完全可控、動作高度重複,傳統自動化方法已經能應對。他用Rube Goldberg機器做類比——傳統自動化靠精確定位和震動送料這類確定性機關來消除不確定性,而智能體機器人的價值在於引入感知和強化學習後,不再需要把每個零件都校準到0.1毫米精度。
— Bob McGrew和Anduril合作把虛擬建線從幾天壓到90分鐘
Arda與Anduril合作一年,一月拿到系統接入權限,四月就有了第一個用戶:一名工程師原本做一個致動器的虛擬建線要花幾天時間,用Arda的軟件只用了90分鐘。此後團隊已部署到Anduril所有產品部門,參與從無人機、導彈到協同作戰飛機Fury的製造流程數字化工作,目標是把分散在上百份文檔裡的製造流程變成AI可讀、可操作的單一數據結構。
— Bob McGrew問題優先於技術,是Arda和OpenAI路徑的根本分歧
在Palantir時團隊是徹底的問題導向:不管什麼技術,先聽客戶需要什麼再往產品里加。到了OpenAI,Ilya的態度完全相反——與其跟一個客戶聊需求,不如把訓練數據擴大十倍,從所有人身上學到的更多。McGrew把這個分歧原樣帶進了Arda的選擇:不自己訓練前沿大模型,而是把現成的前沿模型當作編排器,再配合專門的運動規劃、CAD檢查等專用工具來解決具體問題,因為對於非前沿實驗室來說,做小型專用模型反而更容易做到比現成模型更好。
— Bob McGrewFDE方法論真正的壁槓是產品化,不是派駐工程師
前向部署工程(FDE)模式常被誤解為「派一堆顧問去現場搞定事情」,這種做法2015到2020年曾被廣泛嘲笑。McGrew強調關鍵區別在於:如果工程師只是不斷填補產品和用戶之間的缺口,就完全沒有槓桿;真正的做法是把現場發現的東西產品化、沉澱回產品裡。他還指出企業銷售裡常被忽略的一點:除了Crossing the Chasm裡講的「願景贊助人」,你還需要一個真正願意用軟件去完成任務的使用者,Arda在Anduril的第一個用戶就是靠產品經理坐在他旁邊、把每次卡殼都記下來,兩週後全部打通。
— Bob McGrew超級智能要走出數據中心才算數
McGrew說即便有了Dario所說的「數據中心裡的天才國度」,如果這些智能體只能坐在數據中心裡收發郵件,它們能做的事情非常有限——現在是人類在充當數據中心裡智能的眼睛和手。他預測接下來十年會出現感知和操作形式的大爆發:無人機、人行道機器人,幾乎每件物品都會被賦予感知能力並接入雲端。他不認為未來是清一色的人形機器人大軍,而是會出現模仿各種動物形態的機器人——會飛的、四條腿走路的、耕地的。
— Bob McGrew對費米悖論的回答:文明是以光速擴張的波
Elad提出自我複製探測器應該讓我們更早遇到外星文明,McGrew反駁說恰恰相反:最有效的星際擴張方式是抵達一個星系後迅速建廠、製造大量自我複製探測器再發射出去,於是文明是以光速向外擴張的一道波。我們之所以沒看到,正是因為它本身就以光速傳播——只有在它即將抵達的前幾分鐘或幾年,我們才會探測到它。他也承認德雷克方程裡的不確定性大到可能意味著人類就是第一個文明,希望人類能成為那道以光速擴散的文明波本身。
— Bob McGrew原話 · 已逐字校驗
the first time you were in your Waymo, you thought to yourself, "This is amazing."
第一次坐Waymo的時候,你會覺得「這太神奇了」。
Bob McGrew2:04
the actual limiting factor was not the number of researchers we could hire. It was the amount of GPUs that we had on hand.
真正的限制因素不是我們能招到多少研究員,而是我們手頭有多少GPU。
Bob McGrew4:09
when hypotheses become cheap, then it's actually the physical part that becomes scarce
當生成假設變得便宜時,真正變得稀缺的其實是物理層面的東西。
Bob McGrew7:10
we could learn something by talking to one person, but instead we have the ability to just, you know, 10X our training data, and then we'll learn so much more from everybody
我們本可以通過跟一個人交談學到一些東西,但我們有能力把訓練數據擴大十倍,從所有人身上學到的要多得多。
Bob McGrew30:37
The FDE strategy is a product strategy that teaches you how to build products.
FDE策略本質上是一種產品策略,它教你如何構建產品。
Bob McGrew50:59
But if all they can do is sit in that data center and think, and, like, you can send them emails and they can send you emails back… like, they're not gonna be able to do very much. They're kinda trapped in the data center.
如果它們能做的只是坐在數據中心裡思考,你可以給它們發郵件,它們也能回你郵件……它們做不了太多事情,它們有點被困在數據中心裡。
Bob McGrew52:00
we're only gonna detect them, you know, a little bit before they arrive. Or perhaps we will be the wave.
我們只會在它們抵達前不久才探測到它們。又或者,我們自己就會成為那道波。
Bob McGrew58:05
術語
- hard takeoff硬起飛
- 指AI自動化自身研發後觸發失控式加速的假設情景
- forward deployed engineering (FDE)前向部署工程
- Palantir首創的模式,把工程師嵌入客戶現場共同解決問題並反哺產品
- Von Neumann probe馮·諾依曼探測器
- 一種理論上能自我複製、在星際間持續擴張的無人探測器
- Drake equation德雷克方程
- 估算銀河系中可能存在的可通訊外星文明數量的公式
收聽指南
適合關心AI能否落地到實體經濟的創業者、以及對機器人/製造業創業方向感興趣的投資人和工程師。
33:15到37:13講McGrew個人求職經歷,偏傳記性質,想直接看方法論可以跳過。