世界太吵,来原声听播客

80,000 Hours

北京最怕的AI风险不是AI失控,而是政权失去控制

中国官方说的「失控」首先指政治控制的丧失,而非对齐失控;比起AI安全论文,美国展现出的网络攻击能力(Mythos事件)才是过去一年里真正让北京紧张起来的事。

中美关系AI治理地缘政治芯片管制开源模型台湾问题

原视频在 YouTube 上放不出来,用音频听:

如果你想知道中国到底在怕AI的什么、而不是美国人以为它该怕什么,这集提供了罕见的一手判断,但后半段关于个人China专家路径的内容信息密度较低。

核心论点 · 时间戳为按文稿位置估算

3:39

北京把硅谷内斗全看成一个东西

北京官方媒体多次公开点名Anthropic,说法是「染上了美国病」,是「美国道路孕育出的怪物」。Julian指出,这暴露了一个关键错位:美国人习惯把各家AI公司看作互相竞争、理念不同的独立行为体,但北京根本不做这种区分——不管Anthropic、OpenAI还是别家,在北京眼里都只是美国追求全球技术霸权这同一个工程的不同零件。

— Julian Gewirtz
13:24

北京说的「失控」首先指政治失控

中国AI讨论里越来越多提到「极端失控风险」,但这个词和美国AI安全圈的用法不是一回事。美国人说失控,指人类对AI系统失去控制;北京说失控,首先指的是对信息、对舆论、对党的掌控权的丧失——不管是公司失控泄露出去,还是被人蓄意用AI传播党不想让人看到的信息,都落在这个范畴里。这是理解北京监管逻辑的第一前提:它不是从「我们该怎么对齐AI」出发,而是从政权安全出发。

— Julian Gewirtz
15:13

吓到北京的不是AI本身,是美国的网络能力

过去一年里对北京AI风险认知影响最大的单一事件,是所谓的Mythos——它让北京意识到美国正在获得极其强大的网络能力。这比任何一篇AI安全论文都更能撼动北京的神经,因为它直接触碰了北京最在意的两件事:政权安全和对美国的提防,而且这两件事是连在一起的。北京高层每次谈AI风险,美国都会被当成威胁之一提出来。

— Julian Gewirtz
18:25

Kimi、DeepSeek请求被转发给Claude的尴尬

Anthropic报告称,发给Kimi、DeepSeek的部分请求(包括一次疑似解放军官员的请求)被转发到了Claude上。Julian推测,中国官员找这两家CEO谈话,技术层面的调查之外,政治层面的「这让中国和这些公司丢脸」才是真正的重点。更关键的是,北京官方媒体把这份报告和Dario呼吁为前沿节奏设限的言论直接挂钩,解读成「这都是美国打压中国AI、维持第一的同一套操作」——美国人自己未必把这两件事连在一起想,但北京会。

— Julian Gewirtz
39:21

想知道北京信不信RSI,看它买不买芯片

判断习近平是否真的相信AI会带来十倍加速,不该等一篇意识形态文章,而要看具体的资源动作:会不会集中算力、会不会放开买英伟达芯片。现状是,特朗普政府已批准部分芯片销售,但北京反而在限量购买——因为既要扶持华为等国产算力,也因为可以通过第三国远程接入国际算力。丁薛祥近期被报道曾对AI产业表态,如果在「慢一点」和「依赖外国算力」之间要选,就宁可慢一点。

— Julian Gewirtz
52:19

台湾问题跟AI没关系,但2028年是个窗口

北京想拿下台湾,是1949年政权建立以来的未竟之业,远在AGI概念出现之前就存在,所以不该先入为主地认为是AI焦虑驱动了对台动武判断。真正影响北京节奏的是台湾2028年1月的总统选举——北京希望选出偏向自己的候选人,因此现阶段更倾向维持施压但不动武,因为军事选项代价太高,北京不是不得已不会选。

— Julian Gewirtz
57:39

中美AI对话第一个卡点不是立场,是词汇

即使美中真的建立起技术工作组层面的沟通,第一个要啃的硬骨头是术语本身。中文里「safety」和「security」是同一个词「安全」,这导致一次会议上,一位美国AI专家区分系统对齐安全与网络安全时,中方不懂英文的人完全跟不上。这不是立场分歧,而是基础设施缺失,也是track II对话之所以重要、哪怕过程痛苦的原因之一。

— Julian Gewirtz
1:08:28

开源曾是政治武器,现在开始松动

北京此前把「开源」当成对抗美国的政治叙事——「美国搞封闭排他,中国代表开放」,DeepSeek是这套叙事最有力的象征。但录制当周,中国的AI安全治理框架(TC260 3.0)出现了罕见措辞,警告开源发布会降低发动复杂网络攻击的门槛;学者圈也开始出现「不能无限制开放,建设性力量能用,破坏性力量也能用」的声音。Julian强调这个讨论才刚刚开始,但一旦北京判断安全与稳定风险失控,政策转向可以很快。

— Julian Gewirtz

原话 · 已逐字校验

Anthropic has contracted the American disease.

Anthropic染上了美国病。

Julian Gewirtz3:39

a monster bred by the American path

美国道路孕育出的怪物

Julian Gewirtz3:39

There’s no day after tomorrow if China wins at this.

如果中国在这件事上赢了,就没有后天了。

Julian Gewirtz4:53

The United States has been pacing the frontier for China for years. So we don’t see this as really anything new about us. And we don’t think the United States is going to slow down.

美国多年来一直在替中国给前沿设限速。所以我们不觉得这对我们来说有什么新鲜的,我们也不认为美国会慢下来。

Julian Gewirtz26:19

if there’s a tradeoff between going a little bit slower and making sure that you’re not dependent on foreign compute, go a little bit slower

如果要在「慢一点」和「确保不依赖外国算力」之间做取舍,那就慢一点。

Julian Gewirtz41:59

Now, in Chinese, safety and security are the same word, anquan.

在中文里,safety和security是同一个词:安全。

Julian Gewirtz58:49

crossing the river by feeling for the stones

摸着石头过河。

Julian Gewirtz1:19:40

数字与实体

台湾总统选举2028年1月54:24
中共政权成立年份1949年52:19

术语

loss of control失控
北京语境下首先指政治/信息控制的丧失,不同于美国AI安全圈的人类失去对AI控制
anquan安全
中文一词兼指safety与security,导致中美技术对话出现概念错位
AGI-pilledAGI信仰者
指相信通用人工智能即将到来并因此行动的人,中国部分实验室比政府更「AGI-pilled」
MythosMythos事件
被指暴露美国极强网络攻击能力的事件,被视为过去一年影响北京AI风险认知最大的单一因素

收听指南

谁该听

关注中美AI竞争、地缘政治或在华业务合规的创业者、投资人与政策研究者

可跳过

1:20:20往后关于如何成为中国问题专家、该读谁的书的个人职业建议部分,与AI政策关系较弱,可跳过