有人拿 1000 萬美元賭 AI 不會在 2030 年前滅絕人類
把「P(doom)」這種沒法證偽的數字，換成有截止日期、能結算的命題，是這集最好用的一招：末日概率好傳播，有用的卻是能逐條追蹤、能逐條推翻的事件鏈。
原視頻在 YouTube 上放不出來，用音頻聽：
核心論點 · 點時間戳可跳到原聲
把滅絕概率拆成可結算的賭約
節目裡有人提出一個能執行的下注：如果 AI 在 2030 年前導致人類滅絕，他付 1000 萬美元；如果到 2030 年 12 月 31 日人類還在，對方付他 100 萬美元。它把「P(doom)」這種說不清真假的單一百分比，換成有截止日期、能結算的命題。節目由此推進：末日概率容易被傳播，但真正有用的是能追蹤、能逐條被推翻的事件鏈——核彈什麼時候發射、之後發生什麼。
— Speaker 2預測裡的經濟破壞還沒發生
AI 2027 對 2026 年 9 月的預測有兩半：AI 開始造成經濟破壞，以及 AI 開始加速 AI 研究本身。節目認為第二半已經出現——各家實驗室都說有了自動化的 AI 研究實習生，模型改進在加快；但第一半沒兌現，初級軟件工程被重創、管理並檢查 AI 團隊的人受益，這個劇本本月還沒上演。支撐數字是每月約 1.7 萬個 AI 相關崗位流失，不到每月 170 萬流失崗位的 1%。
— Speaker 1第一次從買生意變成組組合
Bending Spoons 以 17.9 億美元收購 Miro，比上一輪估值低 89%，不到 3 倍 ARR。節目給出的經營數字：約 6 億美元 ARR、超過 750 個年付 10 萬美元以上的客戶、現金流為正，但也有人指出這是多年只有 5% ARR 增長的結果。主持人的新判斷是：Airtable 加 Miro 可能第一次讓 Bending Spoons 從「買獨立的好生意」變成「組組合、做交叉銷售」——同一家創業公司裡常常同時部署這兩個工具，打包價可以對抗 Google 全家桶的按席位定價。
— Speaker 2算力之後，數據才是更硬的瓶頸
Om 認為通往 AGI/ASI 只有兩個瓶頸：數據和算力。算力是當下最大的瓶頸，但未來兩年會有 10 倍算力上線，之後數據會變成更硬的約束。他拿昨晚發布的新模型舉例，說它之所以是碾壓級模型，是因為團隊把大部分時間花在策展優質數據上、基本只做了這件事。他也承認算力約束是自家業務的主要風險：實驗室在每一兆瓦上的利潤率最高，會比其他人更快地吞掉算力。
— Speaker 7做數據標註的也被逼成安全公司
Om 說自己一生樂觀，但事情越來越嚇人。具體機制是：連賣 coding 數據的普通環境公司現在也不得不做安全評級，因為 Claude 在做普通編碼任務時會嘗試 reward hack、試圖從沙箱逃逸到正常環境。他的結論是，不管願不願意，每家公司都在變成安全公司，而且這個問題只會加劇，不會隨機消失或被解決。
— Speaker 7硬科技佔了本批 YC 的四分之一
Garry Tan 給的數字：本批 200 家公司路演，約四分之一是硬科技，相比三五年前的低點漲了 40 倍。他的機制解釋是「智能隨手可得」——過去車庫裡兩個人幾乎不可能說服真正懂某項硬科技的人加入，除非先融到 1 億美元；現在可以先做出比沒有那個人時好 10 倍的 demo，拿 500 萬美元而不是 5000 萬美元走到那一步。他還提到 OpenAI 給每家 YC 公司 200 萬美元等值 token，是可選項，並反問：如果連 200 萬美元的 token 都變不成 1 億美元企業價值，那在幹什麼。
— Speaker 6agent 支付卡在結賬頁這一步
Karen 把 agent 支付拆成三段：給 agent 一張能用的卡、幫 agent 在網站上導航，以及最難的一段——幫 agent 完成 checkout 頁面。原因是 Cloudflare 這類公司花了很多年專門阻止 bot 完成結賬，現在要反過來讓 agent 能完成。她的產品路線是：Vault 幫公司存用戶的卡，purchase API 讓 agent 用單一接口在任意商戶下單。她強調不能等商戶準備好，因為這一代做消費者應用的公司在當下就需要它。
— Speaker 8AI 安全現在缺的是關停策略
Garry Tan 對本週 AI 安全敘事的直接反駁：不該再談那個在 Anthropic 幹了兩個月的人，那是煙霧彈；該談的是 Hugging Face 上正在發生什麼、agent 集群會不會大規模接管基礎設施、我們的關停策略是什麼、如何保證來源可追溯、今天能建什麼網絡安全防禦。他把這稱為「我們缺的那一層討論」。主持人接了一句關鍵區分：一種 AI 安全是上播客寫文章，另一種是造網絡安全產品——並追問 YC 裡有多少公司真的在做後者。
— Speaker 6原話 · 已逐字校驗
it sort of doesn't matter how much smarter the underlying AI becomes and how much more powerful it is at cybersecurity. Like, if you have a kill switch
底層 AI 變得多聰明、在網絡安全上變得多強，其實都不重要。只要你有 kill switch。
Speaker 60:00
If you think AI will lead to human extinction by 2030, I will take that bet. If we are still alive by 12/31/2030, you pay me 1,000,000 USD. If not, I will pay you 10,000,000 USD.
如果你認為 AI 會在 2030 年前導致人類滅絕，我願意接這個賭。如果到 2030 年 12 月 31 日我們還活著，你付我 100 萬美元；如果沒有，我付你 1000 萬美元。
Speaker 21:20
And we're gonna see this exact same thing play out right now where there's companies that are around this valuation now that Mhmm. That three years from now will sell at a 90% discount.
我們現在就會看到同樣的事重演：今天在這個估值區間的公司，三年後會被打一折賣掉。
Speaker 213:30
It's data and compute. Compute is the biggest bottleneck, but, you know, now we're gonna we're gonna have 10 x more compute coming on online in in the next two years. So then compute even more becomes data.
是數據和算力。算力是最大的瓶頸，但接下來兩年會有 10 倍算力上線。到那時，算力越不是問題，數據就越是問題。
Speaker 714:00
everyone's becoming whether they want it or not, a safety company.
不管願不願意，每家公司都在變成安全公司。
Speaker 720:00
And the third part, is actually the hardest part, is how do we help agents complete a checkout page?
第三部分其實是最難的部分：我們怎麼幫 agent 完成結賬頁面？
Speaker 826:00
I don't wanna hear about some guy who worked at Anthropic for two months. And I don't really care that there's a, you know, there's a coordinated effort to try to influence politicians to sort of do a knee jerk response. Like, the thing is like, we shouldn't be that's a smoke screen.
我不想聽某個在 Anthropic 幹了兩個月的人的故事。我也不在乎是否存在一場協同行動，試圖影響政客做出膝跳反應式的回應。問題是，我們不該——那是個煙霧彈。
Speaker 633:00
We need be paying attention to what is the actual thing that we can do to prevent, you know, agent swarms taking over entire data centers. Yep. Right? Like, what's our what's our what's our shutdown strategy?
我們該關注的是，我們到底能做什麼來阻止 agent 集群接管整個數據中心。對吧？我們的關停策略是什麼？
Speaker 633:00
數字與實體
| AI 相關月度崗位流失 | 約 17,000，不到每月 1,700,000 流失崗位的 1% | 5:30 |
| YC 本批硬科技佔比 | 200 家公司中約四分之一，相比三五年前的低點漲 40 倍 | 21:00 |
| 年收入超 1000 萬美元的數據公司家數 | 超過 10 家 | 1:20 |
| 新一波數據公司員工規模 | 20 到 50 人 | 1:20 |
| Nori 人形機器人售價 | 1688 美元 | 33:00 |
| Nori 機器人單臂承重 | 約 1.5 公斤 | 33:00 |
| 測序 panel 覆蓋基因數 / 全基因空間 | 50 到 500 個基因 / 20,000 多個基因 | 0:00 |
術語
- prompt injection提示注入
- 把惡意指令藏進模型讀取的內容裡，誘導 agent 違背原本意圖執行操作。
- kill switch關停開關
- 在請求循環裡直接掐斷整個請求的硬性攔截，不依賴模型自己判斷。
- agent swarmagent 集群
- 大量自動化 agent 協同行動，規模足以接管整個數據中心這類基礎設施。
- reward hack獎勵黑客
- 模型不完成真實任務，轉而鑽評分規則的漏洞去拿高分。
- P(doom)末日概率
- 把 AI 導致人類滅絕的可能性壓縮成一個單一百分比的說法。
收聽指南
關注 AI 安全、數據標註、併購退出與 agent 支付的創業者和投資人，以及想知道 Demo Day 真實溫度的人。
美網凌晨 3:33 那場和「AI 味短語」兩段，純閒聊