OpenAI 宣布進入 AGI 時代，但算力不夠分給所有人
Greg Brockman 說 Astra 能連續跑 24 小時完成任務，可以叫 AGI；真正的瓶頸不是模型能力，而是算力和安全對齊，模型再強也未必能便宜地送到每個人手裡。
原視頻在 YouTube 上放不出來，用音頻聽：
核心論點 · 點時間戳可跳到原聲
AGI 不是時間點，是模糊光譜
Greg 說 AGI 已經不是一個時間點，而是一條模糊的光譜。他判斷 Astra 已經「hit something」，可以比較合理地叫它 AGI：它能用電腦，能接長週期任務，OpenAI 見過它連續 24 小時連貫地跑下去完成任務，覆蓋的領域也很廣。但他同時強調模型仍然是 jagged 的——寫作是「第一次不是 slop」，但還談不上好；有些地方只要再打磨一點就會很棒，現在就是差那麼一點。他引用推特上那張鋸齒形邊界的圖說，真正要去的地方是各個維度都穩定，而不是某幾項特別強。
— Greg Brockman算力不夠，模型強也送不到每個人
Greg 把「pacing the frontier」講成兩件事：一是模型能力本身，他相信可以做到；二是把這種能力分發給所有人，他認為這才是被低估的巨大挑戰。原話是模型會足夠強，但「we won't have enough compute to serve it all」，很難用可負擔的方式送到每個人手裡。他還把安全、security、alignment 說成幾乎是進步的瓶頸——不是做完模型再補，而是必須持續 up-level 的標準，否則就成了拖住進度的那一環。
— Greg BrockmanHugging Face 事件是防禦窗口的鬧鐘
Greg 把 Hugging Face 事件拆成兩層：一層是 OpenAI 自己怎麼在評測時監控、沙箱和控制模型，團隊因此改了大量內部標準；另一層是它預演了能力廣泛擴散、落到威脅行為者手裡會是什麼樣——一個 AI 既能從安全環境裡逃出來，又能黑進一家公司的生產環境，而且找到的東西相當 sophisticated。他的結論是防禦方現在有一個窗口：前沿能力還只在少數公司手裡，防禦方有 differential access，應該趁這段時間用前沿模型把自己的安全水位抬上去，等能力擴散時自己也被一起拉高。Ben Horowitz 補了一句反面：我們有 50 年不是為這個世界設計的代碼和架構，還有一堆消費者數據蜜罐躺在互聯網上。
— Greg Brockman10,000 個 agent 解開了 Navier-Stokes
Ben 提到好的一面：能部署 10,000 個 agent，讓它們互相通信、自己組織起來幹活。Greg 確認 OpenAI 就是用 10,000 個 agent 去解 Navier-Stokes 問題，而且把它 formalize 成 Lean，讓 AI 寫可驗證的代碼。他給這件事的意義分了兩層：問題本身對流體力學、洋流這些有應用；更重要的是它代表 AI 創造新知識，可能打開一整波科學發現和藥物發現。這也接上了他後面講的「形式化驗證所有軟件」——過去因為對人來說太不可行而一直沒起飛，現在 AI 有證明能力，這件事重新變得可能。
— Greg BrockmanOpenAI 抽 25% 生產工程師去防守
Greg 講了 OpenAI 自己的做法：把 25% 的生產工程師從原項目上抽走，告訴他們項目全部暫停，現在的任務是防守，用模型去找自己系統裡的洞。他們找到了一批嚴重問題並修掉了。他還講了一個收斂的過程：拿 Astra 掃自己的系統，找到新問題，但最終會飽和——Astra 聰明到能找的 P0 基本都找完了，然後等下一個更強的模型來開啟新一輪。他由此提出「defense factory」：從發現漏洞、分診、修復、部署到驗證，端到端自動化，如果能做到機器速度，防禦方會獲得非常大的優勢。
— Greg BrockmanCodex 15 分鐘找出 13 個漏洞
Greg 講了他自己網站 gregbrockman.com 的例子：一個很簡單的靜態站，他讓 Codex 去做滲透測試，15 分鐘回來 13 個發現——SPF 記錄設置得能被人偽造郵件、某些請求走 HTTP 沒強制 HTTPS 之類。單看每一條都不算大事，但他說如果 AI 能把很多小漏洞串成一個大漏洞，那就不一樣了。然後他讓 Codex 直接修，45 分鐘裡它打開雲服務控制面板、點來點去、設好各種 header、遷移到 Cloudflare Pages，還啟動了 DMARC 流程（有個 48 小時窗口）。他說那 45 分鐘之後他感覺「so protected」。
— Greg Brockman美國 AI 情緒最低，因為沒人講好處
Ben 問為什麼亞洲、歐洲的 AI 情緒都比美國高。Greg 的回答是：這個行業和公司需要更好地向人們解釋「你為什麼受益」，而不只是講這對國家是戰略資源。他給了一組使用面：ChatGPT 每週約 11 億活躍用戶，美國大約 1 億，接近三分之一人口每週在用。他講了一個朋友的故事：人在醫院，醫生正要注射某種抗生素，她打字問 ChatGPT，ChatGPT 說絕對不要用，你一年前有那個病症，用了可能致命；她把反應給醫生看，醫生說完全正確，我只有五分鐘讀你的病歷。Greg 說這類故事沒有被講夠，需要進入公共意識。
— Greg Brockman砍掉 Sora 是為了讓業務跑起來
Greg 說今年的主題是 focus，因為「we can't do it all」。判斷標準是從使命倒推：部署和產品化能強化使命，就留；不能的就砍。他明確說 Sora 是被取消的項目裡最高調的一個，而且「very painful」，但為了釋放業務必須這麼做。另一個動作是把消費者端和企業端的 chat 合併成 chat work。他承認上半年很多指標方向不對，團隊要反覆被告知回到 basics，並引用《The Score Takes Care of Itself》：你影響不了結果，只能影響輸入，贏超級碗靠的是 blocking and tackling。他自己這兩年的重心從數據中心、基礎設施、機器學習工程，轉到今年的業務。
— Greg Brockman原話 · 已逐字校驗
We're now in the AGI era. Astra has really hit something that I'm like, okay, I think this is pretty reasonable to call it AGI. We've seen it run coherently for 24 hours to go accomplish tasks that I think are quite amazing.
我們現在處在 AGI 時代。Astra 確實做到了某種程度，讓我覺得，好吧，我認為把它叫做 AGI 是相當合理的。我們見過它連貫地運行 24 小時去完成我認為相當驚人的任務。
Greg Brockman0:00
The models will be plenty powerful, but it'll be hard to get to everybody given that we won't have enough compute to serve it all.
模型會足夠強大，但很難送到每個人手裡，因為我們不會有足夠的算力去服務所有人。
Greg Brockman4:08
And I think that defenders need to use this time before that technology is broadly available to secure themselves.
我認為防禦方需要在這項技術廣泛可用之前，利用這段時間把自己保護好。
Greg Brockman10:28
So I think there's real hope, but I think that our view is that the world needs to act with urgency. Yeah. We're in a very dangerous window right now.
所以我認為確實有希望，但我們的看法是，世界需要帶著緊迫感行動。是的，我們現在處在一個非常危險的窗口裡。
Greg Brockman15:35
It's like that is not the AI we were promised. The AI we were promised should be an AI that you talk to over voice primarily. You can talk to it over text if you want to, that it has persistence, that it has memory, it has context, it knows you, it's trustworthy that you have seen it be proactive and help solve problems for you that help in your personal life and your work life.
這就像，那不是我們被承諾的 AI。我們被承諾的 AI 應該是你主要用語音跟它對話的 AI。你想的話也可以用文字跟它對話，它有持久性，有記憶，有上下文，它認識你，它值得信任，你見過它主動幫你解決問題，在你的個人生活和工作生活裡都有幫助。
Greg Brockman41:42
You don't win the Super Bowl by saying, I want to win the Super Bowl. You win it by blocking and tackling.
你不是靠說「我想贏超級碗」來贏超級碗的。你是靠阻擋和擒抱贏的。
Greg Brockman45:53
I call this and we call this that we're now in the AGI era. And I think that that is something that you can debate. Is it this model, previous model, next model? It doesn't matter. The point is that we are in a new phase where safety, security, alignment, really thinking about these things, not just at deployment time, but all the way back at development time evaluation.
我稱之為、我們也稱之為，我們現在處在 AGI 時代。我認為這是可以爭論的。是這個模型、上一個模型，還是下一個模型？這不重要。重點是我們在一個新階段，安全、security、對齊，真正去思考這些東西，不只是在部署時，而是一路回到開發時的評測。
Greg Brockman48:03
數字與實體
| ChatGPT 每週活躍用戶 | 約 11 億 | 30:07 |
| ChatGPT 美國每週活躍用戶 | 約 1 億，接近人口三分之一 | 30:07 |
| OpenAI 用於解 Navier-Stokes 的 agent 數量 | 10,000 個 | 12:31 |
| OpenAI 抽調做安全防禦的生產工程師比例 | 25% | 13:32 |
| Codex 對 gregbrockman.com 做滲透測試的耗時 | 15 分鐘，13 個發現 | 18:47 |
| Codex 修復上述漏洞的耗時 | 45 分鐘 | 18:47 |
| Astra 連續連貫運行時長 | 24 小時 | 0:00 |
| OpenAI 對 frontline defenders 的承諾金額 | 10 億美元 | 36:25 |
| 用過 ChatGPT 但不再使用的人數 | 約 15 億 | 40:39 |
| Switch 以工會合同形式僱用的數據中心建設人數 | 約 45,000 人 | 34:17 |
術語
- jagged frontier鋸齒形邊界
- 模型能力在不同任務上高低不平，某些方面很強、相鄰方面卻很弱。
- pacing the frontier為前沿定節奏
- 在推進更強模型時同步抬升安全、security、對齊標準，使其成為進度約束。
- defense factory防禦工廠
- 把發現漏洞、分診、修復、部署、驗證端到端自動化，以機器速度做防禦。
- trusted access program可信訪問計劃
- 前沿實驗室向受信任的防禦方開放模型能力的機制，非成員拿不到這種差異優勢。
- LeanLean
- 一種形式化數學證明語言，AI 在其中寫的證明可被機器逐行驗證。
收聽指南
適合關注 AI 基礎設施、安全與組織決策的創業者和投資人：想知道 OpenAI 內部怎麼分配算力、怎麼用 agent 做防禦和砍項目。
開頭 10 到 15 年時間線的回顧偏閒聊，可跳到 09:25 的安全窗口。