世界太吵,来原声听播客

No Priors

超级智能困在数据中心里,离开它才算真的开始

Arda创始人Bob McGrew认为自动化研究员只是一次性加速而非递归自我改进,真正的瓶颈是物理世界:实验要在湿实验室跑,机器人要在工厂装配,智能必须走出数据中心才能变成生产力。

机器人制造业具身智能前向部署工程AGI费米悖论

原视频在 YouTube 上放不出来,用音频听:

前半段是对硬起飞论的扎实反驳,后半段讲制造业、机器人形态和FDE方法论都有具体案例和数字,信息密度高,适合关心AI落地而非炒作的人。

核心论点 · 点时间戳可跳到原声

2:27

硬起飞论错在把研究员当成瓶颈

流行说法是:自动化掉90%研究员工作就能10倍加速,自动化99%就是100倍——这是递归自我改进的核心叙事。McGrew认为这从根本上错了,因为研究员从来不是瓶颈,真正限制发现速度的是GPU数量和实验本身。他在OpenAI当首席研究官时亲历的限制因素不是能招多少研究员,而是手头有多少GPU、算力是否集中在对的地方。自动化研究员是一次性的巨大提升,类似从GPT-4o到带推理和工具的o3那样的跃迁,但它不会开启自我强化循环,因为从90%最优提升到99%最优的差距其实不大。

— Bob McGrew
6:09

实验室模型和大模型公司各管各的赛道

McGrew提出一个经济学框架:实验室生产的是廉价智能,而智能的互补品是物理层——湿实验室、GPU排布这些。当生成假设变得便宜,物理执行的部分反而变得稀缺。他的判断是,Anthropic、OpenAI未必在建设湿实验室上有比较优势,所以生物、机器人这类物理密集型领域不一定会被几家大模型公司通吃,留给创业公司的空间很大。

— Bob McGrew
13:19

美国设计iPhone却造不起iPhone的真正原因

iPhone每年有75%的零件会变化,只有25%留在高度自动化产线上,其余75%靠人工组装,因为今天的自动化是针对单一物理问题定制的机器,换一代产品就得推倒重来。汽车产线花两年、2亿美元把自动化率做到位,之后能用同一套设备生产7年,经济账算得过来;但iPhone这种产品如果想自动化,必须从25%一路提到90%以上才能摊平成本,而且设备还要能跟着产品换代重新配置。Arda想解决的正是这个问题:让自动化产线像重新培训工人一样,能在7天内重新配置。

— Bob McGrew
21:28

机器人问题分两种,闭合世界才是当下能打的仗

McGrew把机器人问题分成开放世界和闭合世界:打扫一个从没见过、以后也不会再去的卧室是开放世界问题,需要接近人类的通用智能;装配线是闭合世界,环境完全可控、动作高度重复,传统自动化方法已经能应对。他用Rube Goldberg机器做类比——传统自动化靠精确定位和震动送料这类确定性机关来消除不确定性,而智能体机器人的价值在于引入感知和强化学习后,不再需要把每个零件都校准到0.1毫米精度。

— Bob McGrew
26:34

和Anduril合作把虚拟建线从几天压到90分钟

Arda与Anduril合作一年,一月拿到系统接入权限,四月就有了第一个用户:一名工程师原本做一个致动器的虚拟建线要花几天时间,用Arda的软件只用了90分钟。此后团队已部署到Anduril所有产品部门,参与从无人机、导弹到协同作战飞机Fury的制造流程数字化工作,目标是把分散在上百份文档里的制造流程变成AI可读、可操作的单一数据结构。

— Bob McGrew
28:35

问题优先于技术,是Arda和OpenAI路径的根本分歧

在Palantir时团队是彻底的问题导向:不管什么技术,先听客户需要什么再往产品里加。到了OpenAI,Ilya的态度完全相反——与其跟一个客户聊需求,不如把训练数据扩大十倍,从所有人身上学到的更多。McGrew把这个分歧原样带进了Arda的选择:不自己训练前沿大模型,而是把现成的前沿模型当作编排器,再配合专门的运动规划、CAD检查等专用工具来解决具体问题,因为对于非前沿实验室来说,做小型专用模型反而更容易做到比现成模型更好。

— Bob McGrew
44:55

FDE方法论真正的壁杠是产品化,不是派驻工程师

前向部署工程(FDE)模式常被误解为「派一堆顾问去现场搞定事情」,这种做法2015到2020年曾被广泛嘲笑。McGrew强调关键区别在于:如果工程师只是不断填补产品和用户之间的缺口,就完全没有杠杆;真正的做法是把现场发现的东西产品化、沉淀回产品里。他还指出企业销售里常被忽略的一点:除了Crossing the Chasm里讲的「愿景赞助人」,你还需要一个真正愿意用软件去完成任务的使用者,Arda在Anduril的第一个用户就是靠产品经理坐在他旁边、把每次卡壳都记下来,两周后全部打通。

— Bob McGrew
51:00

超级智能要走出数据中心才算数

McGrew说即便有了Dario所说的「数据中心里的天才国度」,如果这些智能体只能坐在数据中心里收发邮件,它们能做的事情非常有限——现在是人类在充当数据中心里智能的眼睛和手。他预测接下来十年会出现感知和操作形式的大爆发:无人机、人行道机器人,几乎每件物品都会被赋予感知能力并接入云端。他不认为未来是清一色的人形机器人大军,而是会出现模仿各种动物形态的机器人——会飞的、四条腿走路的、耕地的。

— Bob McGrew
57:05

对费米悖论的回答:文明是以光速扩张的波

Elad提出自我复制探测器应该让我们更早遇到外星文明,McGrew反驳说恰恰相反:最有效的星际扩张方式是抵达一个星系后迅速建厂、制造大量自我复制探测器再发射出去,于是文明是以光速向外扩张的一道波。我们之所以没看到,正是因为它本身就以光速传播——只有在它即将抵达的前几分钟或几年,我们才会探测到它。他也承认德雷克方程里的不确定性大到可能意味着人类就是第一个文明,希望人类能成为那道以光速扩散的文明波本身。

— Bob McGrew

原话 · 已逐字校验

the first time you were in your Waymo, you thought to yourself, "This is amazing."

第一次坐Waymo的时候,你会觉得「这太神奇了」。

Bob McGrew2:04

the actual limiting factor was not the number of researchers we could hire. It was the amount of GPUs that we had on hand.

真正的限制因素不是我们能招到多少研究员,而是我们手头有多少GPU。

Bob McGrew4:09

when hypotheses become cheap, then it's actually the physical part that becomes scarce

当生成假设变得便宜时,真正变得稀缺的其实是物理层面的东西。

Bob McGrew7:10

we could learn something by talking to one person, but instead we have the ability to just, you know, 10X our training data, and then we'll learn so much more from everybody

我们本可以通过跟一个人交谈学到一些东西,但我们有能力把训练数据扩大十倍,从所有人身上学到的要多得多。

Bob McGrew30:37

The FDE strategy is a product strategy that teaches you how to build products.

FDE策略本质上是一种产品策略,它教你如何构建产品。

Bob McGrew50:59

But if all they can do is sit in that data center and think, and, like, you can send them emails and they can send you emails back… like, they're not gonna be able to do very much. They're kinda trapped in the data center.

如果它们能做的只是坐在数据中心里思考,你可以给它们发邮件,它们也能回你邮件……它们做不了太多事情,它们有点被困在数据中心里。

Bob McGrew52:00

we're only gonna detect them, you know, a little bit before they arrive. Or perhaps we will be the wave.

我们只会在它们抵达前不久才探测到它们。又或者,我们自己就会成为那道波。

Bob McGrew58:05

术语

hard takeoff硬起飞
指AI自动化自身研发后触发失控式加速的假设情景
forward deployed engineering (FDE)前向部署工程
Palantir首创的模式,把工程师嵌入客户现场共同解决问题并反哺产品
Von Neumann probe冯·诺依曼探测器
一种理论上能自我复制、在星际间持续扩张的无人探测器
Drake equation德雷克方程
估算银河系中可能存在的可通讯外星文明数量的公式

收听指南

谁该听

适合关心AI能否落地到实体经济的创业者、以及对机器人/制造业创业方向感兴趣的投资人和工程师。

可跳过

33:15到37:13讲McGrew个人求职经历,偏传记性质,想直接看方法论可以跳过。