世界太吵,來原聲聽播客

ChinaTalk

谷歌握著AI全部家底卻掉隊,贏家拼的是信念不是算力

谷歌發明了Transformer、mesh tensor flow等整套現代AI技術棧,卻因內部不信AGI而掉隊;真正拉開AI實驗室差距的是信不信AGI會實現,而非錢、GPU或人才。

AI實驗室Anthropic中美關係AGI硅谷權力人物心理

原視頻在 YouTube 上放不出來,用音頻聽:

想理解AI實驗室權力人物心理、Dario對華立場謎團、DC政客為何突然上頭,這集信息密度很高。

核心論點 · 點時間戳可跳到原聲

8:05

信念才是谷歌掉隊的真正原因

Kevin說這本書本質不是技術史,而是信念史:AI實驗室真正的分水嶺不是錢、GPU或研究人才,而是信不信AGI會實現——因為只有信了才能把信念賣給別人,換來資源和專注力。最典型反例是谷歌,發明了Transformer、mesh tensor flow等幾乎整套現代AI技術棧,內部卻爆發備忘錄大戰,一份主張多提AGI,另一份主張永遠別提,缺了信念這一環,最終把先手讓給了後來者。

— Kevin Roose
17:37

頂尖實驗室老闆是人類最好勝的一群人

Kevin說如果把全世界按好勝心排名,Demis、Dario、Sam會排進前十。例子很具體:Demis會突然消失一個週末,原來是偷偷報名職業撲克賽並且贏了,他其實不怎麼會打牌;他還是童年國際象棋神童,從小習慣贏比自己年長很多的對手。這種極端競爭性被Kevin認為是驅動他們在無人相信AGI的年代堅持十幾年的核心人格特質,而不只是科學理想。

— Kevin Roose
21:52

曼哈頓計劃的類比在AI身上失效

Demis常把DeepMind的工作比作曼哈頓計劃,Dario則把自己想像成齊拉德。但Kevin指出關鍵差異:原子彈造出來就不用再改了,政府可以拍拍科學家肩膀說謝謝、後面交給我們,軍方接管一切;而AI模型需要持續的後訓練、版本迭代、修bug,政府里根本沒人有技術能力接手一份模型checkpoint繼續訓練。這意味著AI實驗室的創始人不會像曼哈頓計劃的科學家那樣被輕易架空。

— Kevin Roose
26:58

人們嘴上恨AI,手上離不開它

Jordan問人們是不是真像嘴上說的那樣討厭AI。Kevin判斷現在只是一種審美層面的恨,但如果失業率上升兩個百分點,這種恨會變成真實的、有政治殺傷力的憤怒,失業率到10%可能引發街頭騷亂甚至暴力。但兩人都認為即便如此,程序員不會回去手寫Python,律師也不會放棄ChatGPT和Claude——真正能讓AI收縮的只有職業協會式的組織化抵抗,比如法律行業的准入門檻,而不是情緒上的反AI。

— Kevin Roose
33:19

Dario為何是最強對華鷹派,無人能解釋

Kevin說三位領袖裡Dario對中國態度最鷹派,Anthropic的中國籍員工比例也明顯低於其他實驗室,但沒人能完全說清原因。唯一線索是Dario讀博後的第一份科技工作是在百度硅谷分部,從那段經歷之後他開始相信民主國家必須搶先於中國到達AGI。中文互聯網的傳言是他曾經歷一段中國感情的破裂,Kevin自己明確說是推測而非事實的猜測是,他可能因為不知道自己訓練的系統最終被怎麼用而感到不安。

— Kevin Roose
38:25

沒人能解釋為什麼大模型真的work

Noam Shazeer離開谷歌後寫的一篇論文,結尾寫道把這一切歸因於神的仁慈。Kevin說這不是比喻式的感慨,而是有人真心認為:堆更多算力和數據訓練出更聰明的模型這件事本身,沒有人能從科學上證明它為什麼該成立,這感覺就像宇宙的某種基本定律——沒人知道為什麼氫和氧要結合成水,這仍然是AI領域最大的謎。

— Kevin Roose
50:41

Anthropic曾邀小特朗普入股,遭拒絕

Jordan提到一個他認為本該寫進書裡卻沒寫的細節:在特朗普政府國防部改組等動作之前、比較早的階段,Anthropic曾提出讓小特朗普進入公司cap table,但對方拒絕了。兩人討論認為馬斯克當時是更關鍵的變量——馬斯克既是Sam的死對頭,也在特朗普任期初期扮演著實際的守門人角色,這解釋了為什麼AI實驗室和白宮的關係從一開始就很微妙。

— Jordan Schneider
55:55

2027年智能爆炸:AI研發被AI自動化

Kevin說一個幾年前還很邊緣的說法——2027年出現智能爆炸——現在被不少嚴肅的人告訴他真有可能發生,AI對自身研發的全自動化可能最快明年就出現。即使今天所有進展戛然而止,社會和制度大概也需要十年才能消化現有技術。如果真的觸發遞歸自我改進,模型可能每六天左右顯著變強一次,這種速度帶來的不穩定性是人類社會從未經歷過的。

— Kevin Roose

原話 · 已逐字校驗

Because only by believing and then only by selling that belief to others can you amass the resources and the focus to to get to AGI.

因為只有先相信,再把這種相信賣給別人,你才能聚集起足夠的資源和專注力,真正走到AGI。

Kevin Roose9:06

Like they are some of the most competitive people who have ever lived.

他們是有史以來最好勝的一批人。

Kevin Roose18:37

The generals really take over. They're like, thank you for your work. We'll take it from here.

是將軍們真正接管一切。他們會說,謝謝你的工作,接下來交給我們了。

Kevin Roose21:52

I think there's like an aesthetic hate. But if unemployment goes up by two points, that turns into an extremely real hate.

我覺得現在是一種審美層面的恨。但如果失業率上升兩個百分點,這種恨就會變成極其真實的恨。

Kevin Roose26:58

We have no explanation for why this works.

我們沒有任何解釋能說明這東西為什麼會起作用。

Kevin Roose38:25

What could possibly be more important than teaching sand to think?

還有什麼事能比教會沙子思考更重要呢?

Jordan Schneider47:33

they offered to let uh trump jr on the cap table and then he said no

他們曾提出讓小特朗普進入公司的股權結構表,然後他拒絕了。

Jordan Schneider50:41

this guy cannot tell a lie to save his life

這傢伙就算拼了命也撒不了謊。

Kevin Roose52:48

數字與實體

訪談中提及的公司估值說法兩萬億美元16:18
討論中提到的引發社會動盪的失業率閾值10%28:04

術語

RSI (Recursive Self-Improvement)遞歸自我改進
AI自己改進自身研發能力,進而加速自身進步的正反饋過程。
LessWrong理性主義社區論壇
討論AI風險、理性思維的線上社區,早期AGI信念者聚集地。
cap table股權結構表
記錄公司股東及其持股比例的清單。
LARP真人角色扮演遊戲
參與者扮演歷史或虛構角色、按劇情互動推演的沉浸式遊戲。

收聽指南

誰該聽

關注AI實驗室權力格局、對硅谷領袖心理和中美AI敘事分歧感興趣的創業者、投資人。

可跳過

結尾模仿列寧說唱的彩蛋段落信息量低,可跳過。