世界太吵,来原声听播客

Cognitive Revolution

前白宫AI顾问:掐断中国算力不是打压,是为了换时间搞安全

两位前白宫AI顾问称,对华芯片封锁的目的不是遏制崛起,而是用算力优势换取时间解决AI安全问题——但中方在日内瓦谈判的开场回应只有一句「先卖芯片」。

中美AI竞争出口管制AI安全算力AI治理白宫政策

原视频在 YouTube 上放不出来,用音频听:

听两位曾主导对华芯片管制的官员亲口解释,为何「鹰派」立场与「主张对话、主张放慢」在他们看来并不矛盾。

核心论点 · 时间戳为按文稿位置估算

6:37

GPT-3发布才是真正说服他们的证据

Ben Buchanan说,他对规模法则的信念并非一蹴而就:先是读了Dario Amodei「一大坨算力」的备忘录,又看了Rich Sutton 2019年的文章The Bitter Lesson(全书书名来源),但真正让他确信这两篇文章是对的,是2020年5月GPT-3的发布。随后他在Foreign Affairs撰文,主张算力将成为国家安全的核心,由此牵出后来一小群人推动对华出口管制的故事。

— Ben Buchanan
11:22

怀疑结构决定论的人反而更信个人作用

Buchanan说自己带着「规模法则必然成真」的信念进入政府,却在离开时确信「个人的作用如此惊人」——不只是最初那五六个坚信此事的人,还包括愿意听他们讲下去的Jake Sullivan和Bruce Reed。他认为如果没有这几个人,对华出口管制的历史很可能完全不同。

— Ben Buchanan
34:31

对华算力优势号称百比一,却被政治意愿拖后腿

Buchanan给出数字:即便特朗普政府执法不力甚至部分开放,美国及盟友在算力生产上对中国仍保持约100:1优势,在算力获取上约15:1,若堵住远程访问和转运漏洞,这一比例还能进一步扩大。但他说过去一两年真正缺的是「相信这项技术真的重要」的信念——David Sacks的「让私营部门去搞」和JD万斯在巴黎演讲中对安全话题的嘲讽,都拖慢了把领先优势花在安全上的进程。

— Ben Buchanan
1:00:02

日内瓦谈判中中方开场就是先卖芯片给我们

Nathan提出应该把真正的「外星人」当成AI本身而非中国,主张用「芯片换管控」换取合作。Buchanan反问:你愿不愿意把出售GPU作为谈判前提?他说2024年5月的日内瓦会谈上,中方的开场立场就是「先卖我们芯片,其他的以后再谈」,在没有看到实质转变之前,他不愿放弃「领先优势这个支点」。

— Ben Buchanan / Nathan Labenz
1:11:22

铁路式监管加一条闭环RSI禁令

Buchanan援引1870年代美国铁路业靠统一刹车、车钩、轨距让行业更安全也更快的先例,主张对实验室实施强制部署前测试、驻场评估员和政府定节奏机制。若只能选一条「钝器」式规则,他会选择禁止闭环的递归自我改进,而不是简单按日期设定暂停——因为「为了暂停而暂停」只会制造算力积压,解禁后能力反而会跳跃式提升。

— Ben Buchanan
1:18:39

56%的选民说AI是投票时的关键因素

Buchanan称2026年是AI第一次成为大选中的重要议题,56%的选民说这是他们投票时的关键或重要因素,他预测2028年AI会成为头号议题,并与生活成本、腐败问题纠缠在一起。对于「数据中心反弹是中国影响行动」的说法,他直接否认:美国人担心AI,原因就是美国人在担心AI。

— Ben Buchanan
1:24:19

选举只是一张信息量极低的多选表

Tantum Collins提出「苦涩的诱惑」:就算安全、全球治理和领先优势都做对了,AI仍可能让政府具备远超以往的集中管理能力,而公众对政府的监督能力却原地不动。他把选举比作「信息量很低、频率很低的多选表格」,是一种信用分配极差的低信息RL环境,解药是让「人民主权」随政府能力同步增长。

— Tantum Collins
1:32:50

公众知道AI网络能力,只因Anthropic先交给了防守方

Buchanan预测第一场真正的AI紧急事件会来自网络安全或生物领域,可能是朝鲜对银行的攻击,也可能是类似Hugging Face那次的「越狱」演变成挥之不去的智能体蜂群。他说公众之所以知道AI的网络能力有多强,是因为Anthropic和OpenAI今年把这类能力交给了防守方——他愿意押上全部身家,如果中国先拿到同等能力,绝不会这么做,而是会用来攻击美国基础设施。

— Ben Buchanan

原话 · 已逐字校验

That's completely insane. You work at a cult. And I'd be like, oh no no, that's kind of compelling too.

「那完全疯了,你在一个邪教里工作。」我会想,不不,他们说的其实也挺有说服力的。

Tantum Collins8:17

in so far as we can concept ourselves as anything, we and our colleagues are much closer to to Alexander Sachs and the translator between these two worlds.

在我们能够把自己想象成某种角色的限度内,我们和同事们更接近亚历山大·萨克斯——那个在两个世界之间做翻译的人。

Ben Buchanan14:03

what they said to us in Geneva on the front end is sell us chips. Right? We'll talk about that stuff later if you want, but start by selling us chips.

他们在日内瓦开场就跟我们说:先卖我们芯片。好吗?其他事以后再谈,但先从卖芯片开始。

Ben Buchanan1:00:02

I'm willing to bet every dollar I have, if China had access to MITHOS level capability first, it would not be doing that. It'd be using them to hack American infrastructure and the like.

我愿意押上我所有的钱:如果中国先拿到Mythos级别的能力,它绝不会这么做,而是会用来攻击美国的基础设施之类。

Ben Buchanan1:09:04

a time-bound pause for a pause is sake runs the risk of creating a compute overhang.

一个只为暂停而设的、按时间框定的暂停,有制造算力积压的风险。

Ben Buchanan1:16:57

the reason people are worried about AI in the United States is people are worried about AI in the United States.

美国人担心AI的原因,就是美国人在担心AI。

Ben Buchanan1:20:09

And you fill out a multiple choice form, essentially. That contains very few bits of information. And at a very low rate compared to the frequency and density and consequence of decisions that the government then on that basis makes on your behalf.

你填的本质上就是一张多选表格,信息量极低,更新频率也极低——相比之下,政府据此代你做出的决策却频繁、密集且后果重大得多。

Tantum Collins1:24:20

数字与实体

美国及盟友对华算力生产优势约100:134:31
美国及盟友对华算力获取优势约15:134:31
2026年中期选举中认为AI是投票关键/重要因素的选民比例56%1:18:39
否决数据中心的公投比例约43/441:20:15
基因合成筛查政策被废除后中断的时长近两年1:40:21

术语

The Bitter Lesson苦涩的教训
Rich Sutton 2019年文章,主张算力规模胜过人类精心设计,是全书书名来源
spend the lead on safety把领先优势花在安全上
拜登政府内部用语:用对华算力优势换取时间解决AI安全问题
closed-loop recursive self-improvement (RSI)闭环递归自我改进
让AI在无人监督下自主训练、迭代后继模型的闭环流程
compute overhang算力积压
暂停训练期间硬件持续积累,解禁后能力会出现跳跃式提升
Bitter Temptation苦涩的诱惑
书中术语:AI让政府具备远超以往的集中管理能力,公众监督却未同步增长
MythosMythos
Anthropic模型的网络安全能力评估/代号,逐字稿中误转写为MITHOS

收听指南

谁该听

关注中美AI竞争、出口管制政策与AI监管立法走向的政策研究者、科技记者和投资人。

可跳过

19分钟前后关于「拍成电影」的闲聊可跳过,不影响理解后续论证。