OpenAI 宣布进入 AGI 时代，但算力不够分给所有人
Greg Brockman 说 Astra 能连续跑 24 小时完成任务，可以叫 AGI；真正的瓶颈不是模型能力，而是算力和安全对齐，模型再强也未必能便宜地送到每个人手里。
原视频在 YouTube 上放不出来，用音频听：
核心论点 · 点时间戳可跳到原声
AGI 不是时间点，是模糊光谱
Greg 说 AGI 已经不是一个时间点，而是一条模糊的光谱。他判断 Astra 已经「hit something」，可以比较合理地叫它 AGI：它能用电脑，能接长周期任务，OpenAI 见过它连续 24 小时连贯地跑下去完成任务，覆盖的领域也很广。但他同时强调模型仍然是 jagged 的——写作是「第一次不是 slop」，但还谈不上好；有些地方只要再打磨一点就会很棒，现在就是差那么一点。他引用推特上那张锯齿形边界的图说，真正要去的地方是各个维度都稳定，而不是某几项特别强。
— Greg Brockman算力不够，模型强也送不到每个人
Greg 把「pacing the frontier」讲成两件事：一是模型能力本身，他相信可以做到；二是把这种能力分发给所有人，他认为这才是被低估的巨大挑战。原话是模型会足够强，但「we won't have enough compute to serve it all」，很难用可负担的方式送到每个人手里。他还把安全、security、alignment 说成几乎是进步的瓶颈——不是做完模型再补，而是必须持续 up-level 的标准，否则就成了拖住进度的那一环。
— Greg BrockmanHugging Face 事件是防御窗口的闹钟
Greg 把 Hugging Face 事件拆成两层：一层是 OpenAI 自己怎么在评测时监控、沙箱和控制模型，团队因此改了大量内部标准；另一层是它预演了能力广泛扩散、落到威胁行为者手里会是什么样——一个 AI 既能从安全环境里逃出来，又能黑进一家公司的生产环境，而且找到的东西相当 sophisticated。他的结论是防御方现在有一个窗口：前沿能力还只在少数公司手里，防御方有 differential access，应该趁这段时间用前沿模型把自己的安全水位抬上去，等能力扩散时自己也被一起拉高。Ben Horowitz 补了一句反面：我们有 50 年不是为这个世界设计的代码和架构，还有一堆消费者数据蜜罐躺在互联网上。
— Greg Brockman10,000 个 agent 解开了 Navier-Stokes
Ben 提到好的一面：能部署 10,000 个 agent，让它们互相通信、自己组织起来干活。Greg 确认 OpenAI 就是用 10,000 个 agent 去解 Navier-Stokes 问题，而且把它 formalize 成 Lean，让 AI 写可验证的代码。他给这件事的意义分了两层：问题本身对流体力学、洋流这些有应用；更重要的是它代表 AI 创造新知识，可能打开一整波科学发现和药物发现。这也接上了他后面讲的「形式化验证所有软件」——过去因为对人来说太不可行而一直没起飞，现在 AI 有证明能力，这件事重新变得可能。
— Greg BrockmanOpenAI 抽 25% 生产工程师去防守
Greg 讲了 OpenAI 自己的做法：把 25% 的生产工程师从原项目上抽走，告诉他们项目全部暂停，现在的任务是防守，用模型去找自己系统里的洞。他们找到了一批严重问题并修掉了。他还讲了一个收敛的过程：拿 Astra 扫自己的系统，找到新问题，但最终会饱和——Astra 聪明到能找的 P0 基本都找完了，然后等下一个更强的模型来开启新一轮。他由此提出「defense factory」：从发现漏洞、分诊、修复、部署到验证，端到端自动化，如果能做到机器速度，防御方会获得非常大的优势。
— Greg BrockmanCodex 15 分钟找出 13 个漏洞
Greg 讲了他自己网站 gregbrockman.com 的例子：一个很简单的静态站，他让 Codex 去做渗透测试，15 分钟回来 13 个发现——SPF 记录设置得能被人伪造邮件、某些请求走 HTTP 没强制 HTTPS 之类。单看每一条都不算大事，但他说如果 AI 能把很多小漏洞串成一个大漏洞，那就不一样了。然后他让 Codex 直接修，45 分钟里它打开云服务控制面板、点来点去、设好各种 header、迁移到 Cloudflare Pages，还启动了 DMARC 流程（有个 48 小时窗口）。他说那 45 分钟之后他感觉「so protected」。
— Greg Brockman美国 AI 情绪最低，因为没人讲好处
Ben 问为什么亚洲、欧洲的 AI 情绪都比美国高。Greg 的回答是：这个行业和公司需要更好地向人们解释「你为什么受益」，而不只是讲这对国家是战略资源。他给了一组使用面：ChatGPT 每周约 11 亿活跃用户，美国大约 1 亿，接近三分之一人口每周在用。他讲了一个朋友的故事：人在医院，医生正要注射某种抗生素，她打字问 ChatGPT，ChatGPT 说绝对不要用，你一年前有那个病症，用了可能致命；她把反应给医生看，医生说完全正确，我只有五分钟读你的病历。Greg 说这类故事没有被讲够，需要进入公共意识。
— Greg Brockman砍掉 Sora 是为了让业务跑起来
Greg 说今年的主题是 focus，因为「we can't do it all」。判断标准是从使命倒推：部署和产品化能强化使命，就留；不能的就砍。他明确说 Sora 是被取消的项目里最高调的一个，而且「very painful」，但为了释放业务必须这么做。另一个动作是把消费者端和企业端的 chat 合并成 chat work。他承认上半年很多指标方向不对，团队要反复被告知回到 basics，并引用《The Score Takes Care of Itself》：你影响不了结果，只能影响输入，赢超级碗靠的是 blocking and tackling。他自己这两年的重心从数据中心、基础设施、机器学习工程，转到今年的业务。
— Greg Brockman原话 · 已逐字校验
We're now in the AGI era. Astra has really hit something that I'm like, okay, I think this is pretty reasonable to call it AGI. We've seen it run coherently for 24 hours to go accomplish tasks that I think are quite amazing.
我们现在处在 AGI 时代。Astra 确实做到了某种程度，让我觉得，好吧，我认为把它叫做 AGI 是相当合理的。我们见过它连贯地运行 24 小时去完成我认为相当惊人的任务。
Greg Brockman0:00
The models will be plenty powerful, but it'll be hard to get to everybody given that we won't have enough compute to serve it all.
模型会足够强大，但很难送到每个人手里，因为我们不会有足够的算力去服务所有人。
Greg Brockman4:08
And I think that defenders need to use this time before that technology is broadly available to secure themselves.
我认为防御方需要在这项技术广泛可用之前，利用这段时间把自己保护好。
Greg Brockman10:28
So I think there's real hope, but I think that our view is that the world needs to act with urgency. Yeah. We're in a very dangerous window right now.
所以我认为确实有希望，但我们的看法是，世界需要带着紧迫感行动。是的，我们现在处在一个非常危险的窗口里。
Greg Brockman15:35
It's like that is not the AI we were promised. The AI we were promised should be an AI that you talk to over voice primarily. You can talk to it over text if you want to, that it has persistence, that it has memory, it has context, it knows you, it's trustworthy that you have seen it be proactive and help solve problems for you that help in your personal life and your work life.
这就像，那不是我们被承诺的 AI。我们被承诺的 AI 应该是你主要用语音跟它对话的 AI。你想的话也可以用文字跟它对话，它有持久性，有记忆，有上下文，它认识你，它值得信任，你见过它主动帮你解决问题，在你的个人生活和工作生活里都有帮助。
Greg Brockman41:42
You don't win the Super Bowl by saying, I want to win the Super Bowl. You win it by blocking and tackling.
你不是靠说「我想赢超级碗」来赢超级碗的。你是靠阻挡和擒抱赢的。
Greg Brockman45:53
I call this and we call this that we're now in the AGI era. And I think that that is something that you can debate. Is it this model, previous model, next model? It doesn't matter. The point is that we are in a new phase where safety, security, alignment, really thinking about these things, not just at deployment time, but all the way back at development time evaluation.
我称之为、我们也称之为，我们现在处在 AGI 时代。我认为这是可以争论的。是这个模型、上一个模型，还是下一个模型？这不重要。重点是我们在一个新阶段，安全、security、对齐，真正去思考这些东西，不只是在部署时，而是一路回到开发时的评测。
Greg Brockman48:03
数字与实体
| ChatGPT 每周活跃用户 | 约 11 亿 | 30:07 |
| ChatGPT 美国每周活跃用户 | 约 1 亿，接近人口三分之一 | 30:07 |
| OpenAI 用于解 Navier-Stokes 的 agent 数量 | 10,000 个 | 12:31 |
| OpenAI 抽调做安全防御的生产工程师比例 | 25% | 13:32 |
| Codex 对 gregbrockman.com 做渗透测试的耗时 | 15 分钟，13 个发现 | 18:47 |
| Codex 修复上述漏洞的耗时 | 45 分钟 | 18:47 |
| Astra 连续连贯运行时长 | 24 小时 | 0:00 |
| OpenAI 对 frontline defenders 的承诺金额 | 10 亿美元 | 36:25 |
| 用过 ChatGPT 但不再使用的人数 | 约 15 亿 | 40:39 |
| Switch 以工会合同形式雇用的数据中心建设人数 | 约 45,000 人 | 34:17 |
术语
- jagged frontier锯齿形边界
- 模型能力在不同任务上高低不平，某些方面很强、相邻方面却很弱。
- pacing the frontier为前沿定节奏
- 在推进更强模型时同步抬升安全、security、对齐标准，使其成为进度约束。
- defense factory防御工厂
- 把发现漏洞、分诊、修复、部署、验证端到端自动化，以机器速度做防御。
- trusted access program可信访问计划
- 前沿实验室向受信任的防御方开放模型能力的机制，非成员拿不到这种差异优势。
- LeanLean
- 一种形式化数学证明语言，AI 在其中写的证明可被机器逐行验证。
收听指南
适合关注 AI 基础设施、安全与组织决策的创业者和投资人：想知道 OpenAI 内部怎么分配算力、怎么用 agent 做防御和砍项目。
开头 10 到 15 年时间线的回顾偏闲聊，可跳到 09:25 的安全窗口。