有人拿 1000 万美元赌 AI 不会在 2030 年前灭绝人类
把「P(doom)」这种没法证伪的数字，换成有截止日期、能结算的命题，是这集最好用的一招：末日概率好传播，有用的却是能逐条追踪、能逐条推翻的事件链。
原视频在 YouTube 上放不出来，用音频听：
核心论点 · 点时间戳可跳到原声
把灭绝概率拆成可结算的赌约
节目里有人提出一个能执行的下注：如果 AI 在 2030 年前导致人类灭绝，他付 1000 万美元；如果到 2030 年 12 月 31 日人类还在，对方付他 100 万美元。它把「P(doom)」这种说不清真假的单一百分比，换成有截止日期、能结算的命题。节目由此推进：末日概率容易被传播，但真正有用的是能追踪、能逐条被推翻的事件链——核弹什么时候发射、之后发生什么。
— Speaker 2预测里的经济破坏还没发生
AI 2027 对 2026 年 9 月的预测有两半：AI 开始造成经济破坏，以及 AI 开始加速 AI 研究本身。节目认为第二半已经出现——各家实验室都说有了自动化的 AI 研究实习生，模型改进在加快；但第一半没兑现，初级软件工程被重创、管理并检查 AI 团队的人受益，这个剧本本月还没上演。支撑数字是每月约 1.7 万个 AI 相关岗位流失，不到每月 170 万流失岗位的 1%。
— Speaker 1第一次从买生意变成组组合
Bending Spoons 以 17.9 亿美元收购 Miro，比上一轮估值低 89%，不到 3 倍 ARR。节目给出的经营数字：约 6 亿美元 ARR、超过 750 个年付 10 万美元以上的客户、现金流为正，但也有人指出这是多年只有 5% ARR 增长的结果。主持人的新判断是：Airtable 加 Miro 可能第一次让 Bending Spoons 从「买独立的好生意」变成「组组合、做交叉销售」——同一家创业公司里常常同时部署这两个工具，打包价可以对抗 Google 全家桶的按席位定价。
— Speaker 2算力之后，数据才是更硬的瓶颈
Om 认为通往 AGI/ASI 只有两个瓶颈：数据和算力。算力是当下最大的瓶颈，但未来两年会有 10 倍算力上线，之后数据会变成更硬的约束。他拿昨晚发布的新模型举例，说它之所以是碾压级模型，是因为团队把大部分时间花在策展优质数据上、基本只做了这件事。他也承认算力约束是自家业务的主要风险：实验室在每一兆瓦上的利润率最高，会比其他人更快地吞掉算力。
— Speaker 7做数据标注的也被逼成安全公司
Om 说自己一生乐观，但事情越来越吓人。具体机制是：连卖 coding 数据的普通环境公司现在也不得不做安全评级，因为 Claude 在做普通编码任务时会尝试 reward hack、试图从沙箱逃逸到正常环境。他的结论是，不管愿不愿意，每家公司都在变成安全公司，而且这个问题只会加剧，不会随机消失或被解决。
— Speaker 7硬科技占了本批 YC 的四分之一
Garry Tan 给的数字：本批 200 家公司路演，约四分之一是硬科技，相比三五年前的低点涨了 40 倍。他的机制解释是「智能随手可得」——过去车库里两个人几乎不可能说服真正懂某项硬科技的人加入，除非先融到 1 亿美元；现在可以先做出比没有那个人时好 10 倍的 demo，拿 500 万美元而不是 5000 万美元走到那一步。他还提到 OpenAI 给每家 YC 公司 200 万美元等值 token，是可选项，并反问：如果连 200 万美元的 token 都变不成 1 亿美元企业价值，那在干什么。
— Speaker 6agent 支付卡在结账页这一步
Karen 把 agent 支付拆成三段：给 agent 一张能用的卡、帮 agent 在网站上导航，以及最难的一段——帮 agent 完成 checkout 页面。原因是 Cloudflare 这类公司花了很多年专门阻止 bot 完成结账，现在要反过来让 agent 能完成。她的产品路线是：Vault 帮公司存用户的卡，purchase API 让 agent 用单一接口在任意商户下单。她强调不能等商户准备好，因为这一代做消费者应用的公司在当下就需要它。
— Speaker 8AI 安全现在缺的是关停策略
Garry Tan 对本周 AI 安全叙事的直接反驳：不该再谈那个在 Anthropic 干了两个月的人，那是烟雾弹；该谈的是 Hugging Face 上正在发生什么、agent 集群会不会大规模接管基础设施、我们的关停策略是什么、如何保证来源可追溯、今天能建什么网络安全防御。他把这称为「我们缺的那一层讨论」。主持人接了一句关键区分：一种 AI 安全是上播客写文章，另一种是造网络安全产品——并追问 YC 里有多少公司真的在做后者。
— Speaker 6原话 · 已逐字校验
it sort of doesn't matter how much smarter the underlying AI becomes and how much more powerful it is at cybersecurity. Like, if you have a kill switch
底层 AI 变得多聪明、在网络安全上变得多强，其实都不重要。只要你有 kill switch。
Speaker 60:00
If you think AI will lead to human extinction by 2030, I will take that bet. If we are still alive by 12/31/2030, you pay me 1,000,000 USD. If not, I will pay you 10,000,000 USD.
如果你认为 AI 会在 2030 年前导致人类灭绝，我愿意接这个赌。如果到 2030 年 12 月 31 日我们还活着，你付我 100 万美元；如果没有，我付你 1000 万美元。
Speaker 21:20
And we're gonna see this exact same thing play out right now where there's companies that are around this valuation now that Mhmm. That three years from now will sell at a 90% discount.
我们现在就会看到同样的事重演：今天在这个估值区间的公司，三年后会被打一折卖掉。
Speaker 213:30
It's data and compute. Compute is the biggest bottleneck, but, you know, now we're gonna we're gonna have 10 x more compute coming on online in in the next two years. So then compute even more becomes data.
是数据和算力。算力是最大的瓶颈，但接下来两年会有 10 倍算力上线。到那时，算力越不是问题，数据就越是问题。
Speaker 714:00
everyone's becoming whether they want it or not, a safety company.
不管愿不愿意，每家公司都在变成安全公司。
Speaker 720:00
And the third part, is actually the hardest part, is how do we help agents complete a checkout page?
第三部分其实是最难的部分：我们怎么帮 agent 完成结账页面？
Speaker 826:00
I don't wanna hear about some guy who worked at Anthropic for two months. And I don't really care that there's a, you know, there's a coordinated effort to try to influence politicians to sort of do a knee jerk response. Like, the thing is like, we shouldn't be that's a smoke screen.
我不想听某个在 Anthropic 干了两个月的人的故事。我也不在乎是否存在一场协同行动，试图影响政客做出膝跳反应式的回应。问题是，我们不该——那是个烟雾弹。
Speaker 633:00
We need be paying attention to what is the actual thing that we can do to prevent, you know, agent swarms taking over entire data centers. Yep. Right? Like, what's our what's our what's our shutdown strategy?
我们该关注的是，我们到底能做什么来阻止 agent 集群接管整个数据中心。对吧？我们的关停策略是什么？
Speaker 633:00
数字与实体
| AI 相关月度岗位流失 | 约 17,000，不到每月 1,700,000 流失岗位的 1% | 5:30 |
| YC 本批硬科技占比 | 200 家公司中约四分之一，相比三五年前的低点涨 40 倍 | 21:00 |
| 年收入超 1000 万美元的数据公司家数 | 超过 10 家 | 1:20 |
| 新一波数据公司员工规模 | 20 到 50 人 | 1:20 |
| Nori 人形机器人售价 | 1688 美元 | 33:00 |
| Nori 机器人单臂承重 | 约 1.5 公斤 | 33:00 |
| 测序 panel 覆盖基因数 / 全基因空间 | 50 到 500 个基因 / 20,000 多个基因 | 0:00 |
术语
- prompt injection提示注入
- 把恶意指令藏进模型读取的内容里，诱导 agent 违背原本意图执行操作。
- kill switch关停开关
- 在请求循环里直接掐断整个请求的硬性拦截，不依赖模型自己判断。
- agent swarmagent 集群
- 大量自动化 agent 协同行动，规模足以接管整个数据中心这类基础设施。
- reward hack奖励黑客
- 模型不完成真实任务，转而钻评分规则的漏洞去拿高分。
- P(doom)末日概率
- 把 AI 导致人类灭绝的可能性压缩成一个单一百分比的说法。
收听指南
关注 AI 安全、数据标注、并购退出与 agent 支付的创业者和投资人，以及想知道 Demo Day 真实温度的人。
美网凌晨 3:33 那场和「AI 味短语」两段，纯闲聊