世界太吵,來原聲聽播客

80,000 Hours

北京最怕的AI風險不是AI失控,而是政權失去控制

中國官方說的「失控」首先指政治控制的喪失,而非對齊失控;比起AI安全論文,美國展現出的網絡攻擊能力(Mythos事件)才是過去一年裡真正讓北京緊張起來的事。

中美關係AI治理地緣政治芯片管制開源模型臺灣問題

原視頻在 YouTube 上放不出來,用音頻聽:

如果你想知道中國到底在怕AI的什麼、而不是美國人以為它該怕什麼,這集提供了罕見的一手判斷,但後半段關於個人China專家路徑的內容信息密度較低。

核心論點 · 時間戳為按文稿位置估算

3:39

北京把硅谷內鬥全看成一個東西

北京官方媒體多次公開點名Anthropic,說法是「染上了美國病」,是「美國道路孕育出的怪物」。Julian指出,這暴露了一個關鍵錯位:美國人習慣把各家AI公司看作互相競爭、理念不同的獨立行為體,但北京根本不做這種區分——不管Anthropic、OpenAI還是別家,在北京眼裡都只是美國追求全球技術霸權這同一個工程的不同零件。

— Julian Gewirtz
13:24

北京說的「失控」首先指政治失控

中國AI討論裡越來越多提到「極端失控風險」,但這個詞和美國AI安全圈的用法不是一回事。美國人說失控,指人類對AI系統失去控制;北京說失控,首先指的是對信息、對輿論、對黨的掌控權的喪失——不管是公司失控洩露出去,還是被人蓄意用AI傳播黨不想讓人看到的信息,都落在這個範疇裡。這是理解北京監管邏輯的第一前提:它不是從「我們該怎麼對齊AI」出發,而是從政權安全出發。

— Julian Gewirtz
15:13

嚇到北京的不是AI本身,是美國的網絡能力

過去一年裡對北京AI風險認知影響最大的單一事件,是所謂的Mythos——它讓北京意識到美國正在獲得極其強大的網絡能力。這比任何一篇AI安全論文都更能撼動北京的神經,因為它直接觸碰了北京最在意的兩件事:政權安全和對美國的提防,而且這兩件事是連在一起的。北京高層每次談AI風險,美國都會被當成威脅之一提出來。

— Julian Gewirtz
18:25

Kimi、DeepSeek請求被轉發給Claude的尷尬

Anthropic報告稱,發給Kimi、DeepSeek的部分請求(包括一次疑似解放軍官員的請求)被轉發到了Claude上。Julian推測,中國官員找這兩家CEO談話,技術層面的調查之外,政治層面的「這讓中國和這些公司丟臉」才是真正的重點。更關鍵的是,北京官方媒體把這份報告和Dario呼籲為前沿節奏設限的言論直接掛鉤,解讀成「這都是美國打壓中國AI、維持第一的同一套操作」——美國人自己未必把這兩件事連在一起想,但北京會。

— Julian Gewirtz
39:21

想知道北京信不信RSI,看它買不買芯片

判斷習近平是否真的相信AI會帶來十倍加速,不該等一篇意識形態文章,而要看具體的資源動作:會不會集中算力、會不會放開買英偉達芯片。現狀是,特朗普政府已批准部分芯片銷售,但北京反而在限量購買——因為既要扶持華為等國產算力,也因為可以通過第三國遠程接入國際算力。丁薛祥近期被報道曾對AI產業表態,如果在「慢一點」和「依賴外國算力」之間要選,就寧可慢一點。

— Julian Gewirtz
52:19

臺灣問題跟AI沒關係,但2028年是個窗口

北京想拿下臺灣,是1949年政權建立以來的未竟之業,遠在AGI概念出現之前就存在,所以不該先入為主地認為是AI焦慮驅動了對臺動武判斷。真正影響北京節奏的是臺灣2028年1月的總統選舉——北京希望選出偏向自己的候選人,因此現階段更傾向維持施壓但不動武,因為軍事選項代價太高,北京不是不得已不會選。

— Julian Gewirtz
57:39

中美AI對話第一個卡點不是立場,是詞彙

即使美中真的建立起技術工作組層面的溝通,第一個要啃的硬骨頭是術語本身。中文裡「safety」和「security」是同一個詞「安全」,這導致一次會議上,一位美國AI專家區分系統對齊安全與網絡安全時,中方不懂英文的人完全跟不上。這不是立場分歧,而是基礎設施缺失,也是track II對話之所以重要、哪怕過程痛苦的原因之一。

— Julian Gewirtz
1:08:28

開源曾是政治武器,現在開始鬆動

北京此前把「開源」當成對抗美國的政治敘事——「美國搞封閉排他,中國代表開放」,DeepSeek是這套敘事最有力的象徵。但錄製當週,中國的AI安全治理框架(TC260 3.0)出現了罕見措辭,警告開源發布會降低發動複雜網絡攻擊的門檻;學者圈也開始出現「不能無限制開放,建設性力量能用,破壞性力量也能用」的聲音。Julian強調這個討論才剛剛開始,但一旦北京判斷安全與穩定風險失控,政策轉向可以很快。

— Julian Gewirtz

原話 · 已逐字校驗

Anthropic has contracted the American disease.

Anthropic染上了美國病。

Julian Gewirtz3:39

a monster bred by the American path

美國道路孕育出的怪物

Julian Gewirtz3:39

There’s no day after tomorrow if China wins at this.

如果中國在這件事上贏了,就沒有後天了。

Julian Gewirtz4:53

The United States has been pacing the frontier for China for years. So we don’t see this as really anything new about us. And we don’t think the United States is going to slow down.

美國多年來一直在替中國給前沿設限速。所以我們不覺得這對我們來說有什麼新鮮的,我們也不認為美國會慢下來。

Julian Gewirtz26:19

if there’s a tradeoff between going a little bit slower and making sure that you’re not dependent on foreign compute, go a little bit slower

如果要在「慢一點」和「確保不依賴外國算力」之間做取捨,那就慢一點。

Julian Gewirtz41:59

Now, in Chinese, safety and security are the same word, anquan.

在中文裡,safety和security是同一個詞:安全。

Julian Gewirtz58:49

crossing the river by feeling for the stones

摸著石頭過河。

Julian Gewirtz1:19:40

數字與實體

臺灣總統選舉2028年1月54:24
中共政權成立年份1949年52:19

術語

loss of control失控
北京語境下首先指政治/信息控制的喪失,不同於美國AI安全圈的人類失去對AI控制
anquan安全
中文一詞兼指safety與security,導致中美技術對話出現概念錯位
AGI-pilledAGI信仰者
指相信通用人工智能即將到來並因此行動的人,中國部分實驗室比政府更「AGI-pilled」
MythosMythos事件
被指暴露美國極強網絡攻擊能力的事件,被視為過去一年影響北京AI風險認知最大的單一因素

收聽指南

誰該聽

關注中美AI競爭、地緣政治或在華業務合規的創業者、投資人與政策研究者

可跳過

1:20:20往後關於如何成為中國問題專家、該讀誰的書的個人職業建議部分,與AI政策關係較弱,可跳過