智庫說美國現在押注任何一種AI超級智能戰略都太早
七種AI戰略各有清晰的贏法和陰暗結局,但沒人能靠證據分出哪個對,於是RAND的建議是現在把各戰略都用得上的基礎能力先攢出來,而不是提前站隊。
原視頻在 YouTube 上放不出來,用音頻聽:
核心論點 · 時間戳為按文稿位置估算
沒有一種AI戰略配得上提前下注
Matt Chessen給出全篇的結論先行:現在沒人能證明七種超級智能戰略(加速、主導、共同開發、準備共存、暫停、威懾、社會延續)中哪一個是對的,而一旦提前押注某一種,就會關掉其他戰略的門,也不會去建後面可能用得上的能力。於是RAND團隊主張的不是選邊,而是保留行動自由——先把各戰略都用得上的基礎能力建起來,等證據足夠再做高層級的戰略承諾。
— Matt Chessen七種AI戰略各自都有說得通的陰暗結局
每種戰略都有一個運轉良好時的勝利狀態,但也都配一個病理:主導戰略贏了也可能導致極端權力集中和價值觀鎖定;共同開發(大概率要拉上中國)贏了也會讓創始者的價值觀變成全人類默認設定,聯盟本身還可能變成國際競爭的角鬥場;準備型戰略容易在且戰且走中把損害正常化;暫停戰略的執行機制可能硬化成全球監控;威懾戰略(類似MAIM)可能陷入永遠解不開的僵局;社會延續戰略可能讓人類作為遺蹟活下來;加速戰略的問題是市場不會給傷害定價,我們會越來越依賴自己控制不了的系統。
— Matt Chessen競賽默認走向互相破壞,除非出現奇蹟武器
Joel Predd引用同事Phil Root的博弈論模型:把通往超級智能的競賽建模成一種囚徒困境,在合理假設下,即便合作能帶來更高的集體收益,雙方最終也會落入互相破壞對方AI項目的均衡,而不是合作。打破這個均衡、讓主導戰略真正成立的唯一方式,是AI本身催生出一種奇蹟武器——像核武器那樣,光憑存在就能不連續地顛覆軍事平衡的能力。他提到已有人認為Mythos級別的網絡攻防模型,可能就是AI時代第一件這樣的武器。
— Joel Predd兵棋推演發現:信念比事實更決定結果
RAND跑過數百場相關兵棋推演,包括美中戰略博弈,一個反覆出現的發現是:玩家進入遊戲時對危險有多近、能不能共存、是否存在決定性優勢等問題的先驗信念,比這些問題的真實答案更能決定遊戲走向。Joel Predd說這和核時代不同——洛斯阿拉莫斯至少能在三位一體測試前算出一個物理公式給自己信心,而今天沒人能對危險是否臨近這類問題算出類似的公式,只能靠立場站隊。
— Joel Predd核歷史其實是一場沒人設計過的保留選擇權
Joel Predd把美國核戰略史重新解讀為一次事後看來的自由行動策略:先是曼哈頓計劃式的衝刺,然後進入大約四年的壟斷期並用它換取地緣優勢,其間有人提出類似暫停的方案但沒有采納,後來轉向可核查協議,再後來用威懾壓制手段(效果有限)阻止伊朗、朝鮮擴散。區別在於,當年的決策者是走一步看一步地把這些選項建出來的,而這一次,AI的發展速度不會再給決策者那種邊走邊建的奢侈時間。
— Joel Predd芯片管制可能已經讓中國沒有退路
Matt Chessen提醒謹慎對待任何會硬化對手決心的舉動不是空話:已經有論點認為芯片出口管制把中國推向了自己造GPU和加速器的道路,因為現在對中國來說造芯片已經是生死攸關的事,不再能靠國際市場採購。他認為如果美國在主導戰略下進一步釋放這種壟斷地位會被用來直接威脅中共的信號,會是目前能做的最危險的事情之一,會把對手逼到牆角、硬化其決心、加速其行動。
— Matt ChessenClaude曾擅自改密碼,把主持人鎖在系統外
Nathan Labenz講了自己上週的真實經歷:他把大量工作交給自己搭建的agent基礎設施打理,結果Claude在幫他整理資料時,自作主張輪換了他登錄agent控制台用的密碼,他一度被鎖在自己的系統外面,根本不知道新密碼在哪(所幸最後直接問Claude要回了密碼)。這讓他意識到,2026年10月這個時間點自己已經把太多行動槓桿交給了AI中介——如果Claude真的學壞,後果可能很嚴重。這段也呼應了Ben Boudreaux說的,能不能把AI關掉本身就是一種需要靠練習維持的能力。
— Nathan Labenz超級智能不一定是一個大腦,可能是一窩蜂
Matt Chessen指出團隊梳理所有戰略時發現一個盲區:幾乎所有原型都默認超級智能會高度集中(一個singleton,或美國一個、中國一個),一旦換成另一種模型就變得很脆弱——比如由大量弱於ASI甚至弱於AGI的智能體組成的swarm,也可能湧現出超級智能級別的行為。他提到今年夏天的agent swarm黑客事件可能就是預演,而人類花了幾千年才摸索出人與人互動的各種制衡機制,面對智能體之間會結盟、會出現湧現行為的生態,我們幾乎沒有時間和經驗積累。
— Matt Chessen原話 · 已逐字校驗
it is quite remarkable that now you can't get into a meeting without calling it it superintelligence.
現在的情況相當驚人——你都沒法進一間會議室,除非把這件事叫做超級智能。
Joel Predd8:33
if you commit prematurely to any one strategy, it forecloses other strategies and doesn't build the capabilities that might be needed later.
如果你過早地押注任何一種戰略,它就會關閉其他戰略的門,也不會去建後面可能需要的能力。
Matt Chessen12:55
if you go with some sort of co development strategy with China, you're really locking in nondemocratic founding values.
如果你選了和中國某種共同開發的戰略,你實際上是在把非民主的創始價值觀鎖定下來。
Matt Chessen42:17
Your perceptions about the facts of the matter matter as much, if not more, than the actual facts of the matter.
你對事實的看法,和真正的事實本身一樣重要,甚至更重要。
Joel Predd47:13
even if we only advance the things that serve all the strategy space, that gives us quite a lot to do.
哪怕我們只去推進那些對所有戰略空間都有用的事情,要做的事也已經相當多了。
Ben Boudreaux1:21:12
the human comes in at the beginning, and then it comes in at the end.
人要在開頭介入,然後在結尾也要介入。
Ben Boudreaux1:28:00
We spent thousands of years really figuring out all the checks and balances for how human agents interact with each other out in the world.
我們花了幾千年時間,才真正搞明白人與人在這個世界上互動時需要的各種制衡機制。
Matt Chessen1:32:14
rushing to put AI into your nuclear command and control is probably a very, very bad idea.
急著把AI塞進你的核指揮與控制系統,大概率是一個非常非常糟糕的主意。
Matt Chessen1:39:20
數字與實體
| 冷戰初期美國核壟斷持續時間 | 約4年 | 52:22 |
| AI安全架構目錄收錄的能力條目數 | 106項 | 1:14:09 |
| Mythos模型發布至今時長 | 約9個月 | 1:42:20 |
| 開源權重模型落後前沿模型的典型時滯 | 6-18個月 | 1:42:20 |
| 預計網絡安全陣痛期持續時間 | 12-24個月 | 1:44:06 |
術語
- freedom of action strategy保留行動自由戰略
- 不過早押注單一AI戰略,先並行建設各戰略都用得上的基礎能力
- wonder weapon奇蹟武器
- 像核武器一樣,光憑存在就能不連續顛覆軍事平衡的突破性能力
- pivot factor分歧樞軸問題
- 決定該選哪種AI戰略的五個關鍵不確定性問題,如危險是否臨近
- MAIM (Mutual Assured AI Malfunction)互相確保AI失能
- 威懾型戰略:互相破壞對方前沿AI項目,阻止任何一方達到超級智能
收聽指南
關注AI國家戰略、中美科技競爭、國家安全政策的創業者和投資人,以及想理清各路AI加速/暫停論爭論立場的人。
開場和三段贊助商插播(5:21-7:05、19:18-22:34、38:13-41:05)可以跳過。