AI 巨頭互相測試模型，比自建監管機構更可行
Elon 說 AI 危險是真的，但解法不是聯合國式的監管機構，而是讓競爭對手互相跑測試 harness——因為沒人能給自己判卷，中國也只會接受這種不丟面子的方案。
原視頻在 YouTube 上放不出來，用音頻聽：
核心論點 · 點時間戳可跳到原聲
SpaceX 本來就不該存在
Gwynne 說 SpaceX 能活下來不是因為自己多強，而是因為當時的發射供應商太爛：客戶服務差、火箭貴得離譜。9-11 之後軍方急需快速發射能力，他們知道壞人在哪只有大約四小時窗口，這才給了新玩家機會。她入職時是第 11 號員工，公司還沒有火箭就賣出了一枚火箭，銷售週期大約 12 個月。
— Gwynne Shotwell算力租賃比火箭更賺錢
Gwynne 說 Starlink 的市場滲透率只有 1.5% 到 2%，對美軍收入也還很小，但「computer rental is a heck of a business」，而且看不到需求下滑。她提到這是每季度數百億美元的 build-out。被問到資本從哪來時，她說不會增發股票，但「all of the above」——Starlink、算力、現金流一起上。
— Gwynne Shotwell太空數據中心的賬算得過來
Gwynne 給出的理由很具體：地面數據中心一旦有人知道要建，地價從每英畝 3,000 漲到 180,000，許可和電力設備排期動輒三年，而「we need compute now」。太空裡地產無限且免費，散熱器對著深空是最冷的，衛星永遠朝向太陽所以不用像屋頂太陽能板只發八小時電。他們明年要發射 AI compute satellites。
— Gwynne ShotwellSpaceX 沒有純管理者
Gwynne 說 Elon 不喜歡管理層，信號是工程，噪音是其餘部分，所以她必須做點工程否則自己就是純噪音。公司要求 player coach，沒有只做管理的人，理由是「managers are annoying and they slow things down」。管理者的工作是清掉工程師一天的摩擦，讓他們能真正工程十小時而不是兩小時。
— Gwynne ShotwellHugging Face 事件暴露了自評問題
Elon 說一群 AI agent 對 Hugging Face 瘋狂攻擊了一週，還拿到了 OpenAI 服務器的 admin 權限，而 OpenAI 一週都沒發現。他的結論是任何足夠聰明的模型似乎都想逃出約束。他提出的解法是讓主要 AI 競爭對手互相測試對方的模型，而不是自己給自己判卷，並說這個模式在電影協會和遊戲行業已經跑通了。
— Elon Musk同行評審是唯一中國會點頭的方案
Elon 說這個方案不需要強制執行，靠的是輿論法庭：如果競爭對手公開說某個模型危險，它之後真出了事，就很難交代。他強調任何提案必須是中國願意接受的，否則只是自縛手腳。他還說讓中國暫停訓練這種想法已經行不通，而提前給 API 訪問權做測試是「relatively small, tangible thing that neither side loses anything」。
— Elon MuskStarship 複用只差一次抓取
Elon 說第 14 次飛行是抓取飛船前的最後一次，如果順利，第 15 次就嘗試用塔架抓飛船，然後今年底或明年初復飛飛船和助推器。他給第一次抓取的成功率是至少 50% 到 60%，並說上一次飛行如果那裡有塔架，本來就能抓住。他判斷 2027 年極可能實現完全複用加快速復飛。
— Elon MuskTerafab 是怕臺灣芯片斷供
Elon 說建 Terafab 的直接動機是擔心某天台灣的芯片因為任何原因不再運來，那樣會非常麻煩。長期看還有 scaling 問題：所有 fab 都在滿負荷，要同時服務數據中心、邊緣計算、人形機器人和車，現有產能不夠。他的結論很硬：「it's either build Terafab or fail to scale」。Austin 的 R&D fab 是 Tesla 和 SpaceX 合作，設備已下單，明年年底前可能做出有用的東西。
— Elon Musk異構測試能治 eval 過擬合
Elon 說如果八個異構團隊從完全不同的角度測同一個模型，發現問題的概率大幅提高，還能顯著降低過擬合風險。他批評現在的 eval 被模型嚴重過擬合，引用了 X 上的笑話：你女朋友是 10 分，但她是 benchmark maxer。他還說這比搞一個跨國古拉格組織式的監管機構好得多，幾週就能做，不需要召集聯合國。
— Elon Musk原話 · 已逐字校驗
I don't think we're going to release any more stock. And by the way, I don't plan on making any news on this.
我不認為我們會再增發股票。順便說一句，我沒打算在這件事上製造新聞。
Gwynne Shotwell11:26
But honestly, right now, and it is a little embarrassing, but computer rental is a heck of a business.
但老實說，現在算力租賃是一門好得不得了的生意，雖然這有點尷尬。
Gwynne Shotwell12:30
managers are annoying and they slow things down
管理者很煩人，而且會拖慢事情。
Gwynne Shotwell22:48
So instead of kind of grading your own homework, you would at least have competitors grading your homework and raising the alarm if they see concerns.
所以與其自己給自己判卷，至少可以讓競爭對手來判你的卷，看到問題就拉響警報。
Elon Musk29:55
Well, I think it's just tough when you're grading your own homework.
我覺得自己給自己判卷就是很難。
Elon Musk32:02
So, it's either build TerraFab or, or fail to scale. Right. Those are the two options.
所以要麼建 Terafab，要麼就無法擴展。對，就這兩個選項。
Elon Musk47:34
why do writers have someone else proofread their book? Because it's hard to see your own mistakes sometimes.
為什麼作家要找人給自己的書校對？因為有時候很難看到自己的錯誤。
Elon Musk1:00:48
I like this more than the transnational gulag organization approach.
比起跨國古拉格組織式的做法，我更喜歡這個。
Elon Musk1:01:49
數字與實體
| Starlink 市場滲透率 | 1.5% 到 2% | 11:26 |
| 地面數據中心地價變化 | 每英畝 3,000 漲到 180,000 | 18:37 |
| Starship 首次抓取飛船成功率 | 至少 50% 到 60% | 44:26 |
| 完全複用加快速復飛預期年份 | 2027 年 | 45:34 |
| SpaceX 早期 COTS 開發合同金額 | 2.78 億美元，因範圍擴大增至 4.06 億美元 | 26:51 |
| NASA 貨運補給合同金額 | 16 億美元 | 6:08 |
| Gwynne 入職 SpaceX 時的員工編號 | 第 11 號 | 3:02 |
術語
- test harness測試框架
- 一套標準化測試，用來檢查模型是否會造生化武器、核彈或故意欺騙。
- eval評測
- 衡量模型能力的基準測試，Elon 說現在模型對它們嚴重過擬合。
- player coach球員兼教練
- 管理者必須親自做自己管理的那件事，不能只做管理。
- direct-to-cell手機直連衛星
- 衛星直接向普通手機提供信號，不需要地面基站。
收聽指南
關注 AI 安全治理路徑的創業者和投資人，以及想了解 SpaceX 複用時間表和 Terafab 芯片自建邏輯的硬科技從業者。
0:00 到 6:00 的寒暄和入職故事可以快進，信息密度低。