AI 末日論是場心理戰，靶子是開源
Anthropic 一邊請公開市場以萬億估值承保自己，一邊由安全負責人背書「AI 可能終結文明」——這不是內部矛盾，是一場以開源為最終靶子的監管鋪墊。
原視頻在 YouTube 上放不出來，用音頻聽：
核心論點 · 點時間戳可跳到原聲
辭職信不是自發，是有組織的公關
Jacob Coxon 在 Anthropic 只待了六週就辭職，發帖稱造 AI 的人真心相信它可能在本十年末殺死所有人。Sachs 指出這不是自發行為：賬號此前幾乎零關注、零發帖，卻在一天內獲得上億瀏覽；前 15 分鐘內有三個 Doomer 組織轉發放大，它們都由同一個 EA 大金主資助，而此人也是 Anthropic A 輪聯合領投。更關鍵的是《華爾街日報》的報道在推文風暴前幾分鐘就已發出——說明記者是被 embargo 簡報過的。Sachs 說，如果 Coxon 真上節目，第一個問題就是：誰把你介紹給《華爾街日報》的？
— David Sachs公司不切割，反而自己放大
正常公司遇到吹哨人會立刻反駁、切割。Anthropic 卻相反：負責 alignment 的 Evan Hubinger 公開回復「Jacob 說得對，我們確實真心相信 AI 可能殺死全人類，我個人認為未來十年概率超過 10%」。Sachs 認為這暴露了矛盾——他說的和公司內部 Doomer 議程完全一致，所以才會得到內部支持。Chamath 補了一刀：公司沒法切割，因為一旦切割，內部這一整批人會炸鍋。
— David Sachs / Chamath一邊要萬億估值，一邊說產品會毀滅文明
Sachs 把 Anthropic 的 IPO 困境講得很清楚：你一邊請公開市場投資人以萬億級估值承保你的公司，一邊你的安全負責人說核心產品尚未解決、可能終結文明。這至少是產品責任訴訟的母體。Chamath 用 Philip Morris 類比：我們知道香菸會殺死你，我們會說出來，但我們不披露，照樣上市讓你買股票，之後再想辦法。Sachs 說這是「a time for choosing」——要麼公開否認 Coxon 是 Doomer 操作，要麼承認 Bernie Sanders 說得對、開發該凍結，那還怎麼以萬億估值 IPO。
— David Sachs / Chamath監管的真正靶子是開源
Sachs 說得很直接：這是一場 Doomer 心理戰，最終目標是開源。因為 FDA 式監管不會說「禁止開源」，只會說「開源和閉源模型適用同一套標準」——而 Dario 已在參議院作證，模型若無法被集中監控和回滾就是危險的。開源模型權重一旦發布就無法回滾，所以標準落地就等於禁止發布、使用和託管這些權重。Freeberg 補充：開源沒有企業架構去提交監管材料，而開源正是把 AI 成本降低 50 倍、讓所有人受益的東西。Chamath 的版本是：一旦開源被禁，就形成了與聯邦政府合作的壟斷。
— David Sachs / Friedberg / ChamathAI 連自動補全都還沒搞定
反 Doomer 的核心論據不是理論推演，而是日常體驗：自動補全至今不好用，AI 連「把洗漱包送上樓」這種瑣事都辦不到。如果連一件平凡任務都做不完，憑什麼相信它能殺掉全人類？他們把這稱為人類對抗 AI 接管世界的保險——公司做決策仍要人類醒來、喝咖啡、坐到同一間屋子裡，決策之間天然存在 16 小時的窗口。
— Chamath / Jason真正致命的是那條轉推背書
從法律角度看，關鍵不是 Jacob Coxson 的辭職推文，而是 Evan Hubinger 的背書轉推——他仍是公司的高級對齊高管，管理著安全團隊之一，他 co-sign 並加上「大於 10% 概率」這個數字，才讓事情病毒式傳播。如果只有 Coxson，公司可以說這是心懷不滿的員工；但高管背書讓「是否恰當披露」變成真問題。
— David SachsOpenAI 解數學題靠的是蠻力不是神啟
Navier-Stokes 的解法用了約 1300 億輸出 token、1 萬個 agent 互相通信，折算成人類工作量在 5 萬到 50 萬年之間（按每分鐘 40 詞打字估算）。AI 沒有人類想不到的靈光一現，只是做了大量蠻力工作，而且每一步消息都有記錄、可被人讀懂。結論是 AI 是槓桿工具，不是凌駕於人之上的數學之神。
— Chamath去標識化去不掉方法本身
去標識化能移除個人信息和公司特有信息，但解決數學問題的一般方法本身就是 IP。用戶在工具裡迭代這個方法，這段對話可以被去標識化後拿去訓練，模型因此變得更擅長解數學題。這就是閉源模型的網絡效應：它們能看到全世界在做什麼，這種觀察系統給它們的數據比任何人都多，也構成對客戶的長期優勢。
— Sacks / Chamath不是廣告變差，是鞋子六週就散架
Sacks 說自己以前所有鞋都是 Nike，後來不買了，原因不是廣告或下單體驗，而是產品本身開始變爛——鞋子大概六週就散架，又薄又不耐用。他走進 REI 試了一雙 Brooks 就換了。Chamath 說他堅持 Nike 很久，每六個月買一雙，後來變成每六週就得買，最後因為膝蓋問題轉去 On，理由很直接：Roger Federer 代表 mastery 和 excellence。Brooks 歸 Berkshire Hathaway，連續九年雙位數增長，營收 16 億美元，CEO 說 Buffett 每年只交代一句：把產品做得比去年年底更好。
— David Sachs / Chamath原話 · 已逐字校驗
The people building AI earnestly believe that it could kill us all by the end of the decade.
構建 AI 的人真心相信，它可能在本十年末殺死我們所有人。
On the one hand, you're asking public market investors to underwrite your company to a value in the trillions. On the other hand, your own safety lead, not Jacob Cox in the boss who then sort of co-signed his tweet, is saying that your core product is unsolved and potentially civilization ending.
一方面，你在請公開市場投資人以萬億級估值承保你的公司；另一方面，你自己的安全負責人——不是 Jacob Cox，而是那個轉發背書他推文的老闆——在說你的核心產品尚未解決，且可能終結文明。
David Sachs10:18
this is a doomer psyop and the ultimate target is open source
這是一場 Doomer 心理戰，最終目標是開源。
David Sachs24:49
Autocomplete doesn't work yet, guys.
自動補全到現在都還不好用，各位。
Chamath39:17
we are nowhere near removing the human from the loop of AI development
我們離把人類從 AI 開發的迴路中移除還差得遠。
Friedberg40:20
AI is a tool of leverage for humans. AI is not some magical genius super god that sits above us, that understands things we don't understand.
AI 是給人類用的槓桿工具。AI 不是坐在我們之上、理解我們理解不了的東西的神奇天才超級神。
Chamath1:00:12
There's a concept inside of these models called zero data retention, ZDR. It's a best efforts basis. It's a commercially best efforts basis at that. They can't guarantee it.
這些模型裡有個概念叫零數據保留，ZDR。它是盡力而為，而且是商業上的盡力而為。他們保證不了。
Chamath1:04:21
as long as we have a closed model duopoly of Frontier AI, and they're reserving the right to get into every vertical application there is, they're declaring in advance they're going to compete with their customers. So how can we trust them with our data?
只要前沿 AI 是閉源模型雙寡頭，並且它們保留進入每一個垂直應用的權利，它們就是在事先聲明要跟自己的客戶競爭。那我們憑什麼把數據託付給它們？
數字與實體
| Coxon 在 Anthropic 任職時長 | 六週 | 0:00 |
| Hubinger 給出的十年內滅絕概率 | 超過 10% | 1:04 |
| 美國 vs 法國 vs 中國 每吉瓦核電成本 | 150 億 / 40 億 / 10 億美元 | 16:35 |
| OpenAI 解 Navier-Stokes 所用輸出 token | 約 1300 億 | 1:00:12 |
| Nike 市值峰值 | 2640 億美元（2021 年） | 1:20:50 |
| Nike 營收峰值 | 510 億美元（2024 年） | 1:20:50 |
| Nike 中國區銷售降幅 | 30%，連續八個季度下滑 | 1:20:50 |
| Brooks 營收 | 16 億美元，連續九年雙位數增長 | 1:27:53 |
術語
- Doomer末日論者
- 認為 AI 大概率導致人類滅絕的一派，常與有效利他主義（EA）資金網絡重疊。
- RSI遞歸自我改進
- AI 參與改進下一代 AI 的循環；溫和版已在發生，極端版指 AI 完全自主設計並啟動下一輪訓練。
- ZDR零數據保留
- 模型服務商承諾不保留用戶數據的條款，但只是商業上的盡力而為，無法保證。
- S-1上市註冊文件
- 美國公司 IPO 前向 SEC 提交的招股說明書，須準確呈現機會與風險。
- DTC直接面向消費者
- 品牌繞過零售商直接賣貨給終端用戶的策略，Nike 曾激進推行並得罪零售夥伴。
收聽指南
關注 AI 監管走向、開源生態和 IPO 披露風險的創業者與投資人；以及想復盤 Nike 品牌崩塌機制的品牌與消費賽道從業者。
核電成本與三里島的歷史類比（約 15:34–19:38）可快進，與主線關聯較弱。