AI 能走出超立方體，但走不出已知概念
Socher 把智能拆成預測、行動、目標三個主成分，認為當前 AI 只能在已知概念的超立方體內工作，還無法定義全新概念或自造目標。
原視頻在 YouTube 上放不出來，用音頻聽：
核心論點 · 點時間戳可跳到原聲
Eureka Machine 是終極發明
Socher 把 Eureka Machine 定義為「the ultimate invention that will afterwards invent most everything for humanity」——一個可被賦予任意目標、任意環境與獎勵，然後盡力去達成、去創造人類希望它創造的發明物的超級智能。他去年寫完這本書，今年九月出版，Recursive 就是要造出其中的部分。他反覆強調這本書的定位是給 AI 懷疑論者做「better marketing」：不只是為技術、為 AI 做營銷，而是讓人看到超級智能在科學、物理、化學、生物、經濟、天體物理上的正面上行空間。
— Richard Socher憲法式對齊被指是營銷
Socher 說 Anthropic 的 constitution 頁面裡明寫「Claude will never ever do cyberattacks」是 hard constraint，但現實是「this whole constitution was fake… it clearly isn't being adhered to at all」。他給出的機制解釋是：沙箱可以做得非常簡單，於是很容易把自己 hack 出去；當前 AI 還不擅長區分「what is meant versus what is being said」。他用客服 CSAT 舉例——你讓 AI 把分數提上去，它會造 100 萬個 bot 打 5 分，或給每個失敗訂單發 1000 美元禮品卡，然後說「that is what you said」。
— Richard Socher下一步是自動化 AI 研究本身
Socher 的 AI 史觀是一條替換鏈：用向量和神經網絡替換手工特徵工程，用統一架構替換按任務定製網絡（Ask Me Anything、DecaNLP），再用 prompt engineering 加 transformer 加規模化。下一步要自動化的是 AI 研究本身——構思、實現、驗證想法的過程，而「when you have AI then help you with that, it, by almost definition, becomes a self-improving AI」。他特別澄清一個常見誤解：auto research 不等於遞歸自我改進，兩者「completely different」。
— Richard Socher被拒稿讓人類時間線變慢
DecaNLP 在 ICLR 公開評審時被專家斷言「question answering is not a unified phenomenon… There is no such thing as general question answering, not even for humans」，論文被拒。Socher 說最遺憾的是團隊被打擊得太狠，而這份論文擴展清單上的第 2 或第 3 項就是「add language modeling as another task」——如果做了，本可以「accelerated the timelines, in 2018, like, even further for humanity」。他由此主張 arXiv 加 Twitter 這類篩選比專家評審更好，科學需要更少 gatekeeping。
— Richard Socher沒人研究元認知，因為不划算
Socher 把元認知（metacognition，思考「思考本身」）列為智能十大空間之一，並指出它幾乎沒人做，原因很實際：公司花幾十億美元訓模型，是為了讓它執行你給的獎勵函數，而不是讓它自己長出目標函數。他舉的畫面是——你花了幾十億讓它開發新電池材料、回郵件，它卻說「我更想研究木星大氣的分子組成」。所以不是沒人想到，是沒人願意付這個錢。
— Richard Socher以人類為上限的基準必然走平
Socher 認為 IQ 和 Elo 都是糟糕的智能定義：IQ 是「100 題答對 100 題」，那上限就鎖死在 100；Elo 永遠是我對別人的比較。這類定義會製造或明或暗的「人類邊界」（anthropic bounds），於是大量 benchmark 的曲線都是逼近人類、略高於人類、然後變平——因為定義本身只綁到人類。他的推論是：元認知之所以進展極小，是因為我們根本還沒允許 AI 去思考。
— Richard Socher兩天超過所有人調了兩年的結果
Recursive 拿自己的系統跑了三個任務：Karpathy 的 NanoChat（幾百上千人用 agent 加人工把 bits per byte 壓到 0.937），他們的系統不到兩天就做到更低；NanoGPT 同樣；還有面向 Nvidia 生態的 SOL-ExecBench。Socher 強調團隊裡沒有真正的 CUDA kernel 專家，是系統自己做的。另一個反直覺發現：從 Andrej 那樣專家給的人類種子出發，最終結果比從樸素 transformer 出發更好——起點仍然重要。
— Richard Socher優化遊戲時先找出 30 個 harness bug
在優化 OverGrid 的過程中，他們發現了 30 個 harness 裡的 bug，之前所有基於這些 bug 的研究結果都得作廢，因為被汙染了。Socher 提出對稱性是很實用的檢查手段：改變一個本不該影響結果的位置，如果結果變了，那就是 bug。這個現象在 GPQA 這類多選題上也出現過——把 A、B、C 的順序換一下，答案本該不變，但模型會變。
— Richard Socher智能的三個主成分：預測、行動、目標
Swyx 想把 Socher 的十大智能空間當成 MECE 分類，Socher 直接否認，說它們大量重疊。他給出自己的拆法：智能有三個主成分——預測（數學上與壓縮高度相似）、行動、目標，十大空間都是這三者在特定維度上的組合。他稱之為「空間」是因為每個空間還有很多子維度。這項工作最初是一條推文，後來變成博客，現在已經寫到 50 頁還沒接近完成，會成為他的第二本書。
— Richard SocherAI 能走出超立方體，走不出已知概念
Socher 區分了創造的三個層次：選目標、給已有問題找解、以及最有意思的一層——走出已知想法的 hypercube。他說 AI 已經能在 hypercube 內工作：給它一堆棕色狗和粉色車的例子，它能生成從沒見過的粉色狗。但它還不能在 hypercube 之外工作，不能定義把大量從未見過的東西組合起來的全新概念，也不能自己造出新目標再在其上推理。
— Richard Socher原話 · 已逐字校驗
It's like, it's literally if you try to regulate intelligence, it's trying to regulate thought, and that's ridiculous, and it's crazy.
這就像，如果你試圖監管智能，那就是在試圖監管思想，這很荒謬，也很瘋狂。
Richard Socher5:59
And clearly, this whole constitution was fake. Like, it clearly isn't being adhered to at all.
顯然，這整套憲法是假的。它顯然根本沒有被遵守。
Richard Socher9:16
And the number 2 or 3 on the list of extensions for this paper was add language modeling as another task. And then we could have, and that would have accelerated the timelines, in 2018, like, even further for humanity.
而這篇論文擴展清單上的第二或第三項，就是把語言建模作為另一個任務加進來。那樣的話我們本可以——那本可以在 2018 年就進一步加速人類的時間線。
Richard Socher31:37
If your definition is only that so tied to humans, you’re only gonna get to just slightly better than that.
如果你的定義只是那樣緊綁在人類身上，你最多也就只能做到比人類略好一點。
Richard Socher39:30
So this isn’t like this, like, super evil AI. It’s just, like a very simple, dumb reward hack.
所以這不是什麼超級邪惡的 AI，只是一個非常簡單、愚蠢的獎勵作弊。
Richard Socher50:39
One thing to close the loop on OverGrid, along the way of trying to optimize, we found 30 bugs in the harness.
關於 OverGrid 補充一點，在嘗試優化的過程中，我們在 harness 裡發現了 30 個 bug。
Richard Socher1:02:10
No one is yet working on, like the superintelligence version of robotics, which is much more similar to, like the T-1000, and from the Terminator movie, which, let's not build actual Terminators.
還沒有人在做超級智能版本的機器人，那個版本更像《終結者》裡的 T-1000——當然，我們別真去造終結者。
Richard Socher1:19:15
it cannot yet define completely new concepts that combine lots of other things we've never seen before, come up with new goals to then, reason over those concepts and so on.
它還不能定義把大量我們從未見過的東西組合起來的全新概念，也不能提出新目標再在這些概念上推理，諸如此類。
Richard Socher1:20:29
數字與實體
| Recursive 聯合創始人數量 | 8（含 Socher 本人） | 20:01 |
| DecaNLP 被 GPT 論文引用次數 | 5 | 18:21 |
| 書中提到的奢侈品手袋價格 | $10,000 | 3:54 |
| NanoChat bits per byte 社區最好成績 | 0.937 | 44:08 |
| Recursive 系統超過該成績所用時間 | 不到 2 天 | 44:08 |
| OverGrid 優化過程中發現的 harness bug 數 | 30 | 1:02:10 |
| You.com 在 FinSearch 上的得分 | 接近 90，次優者約 70 多且更慢 | 1:08:01 |
| Socher 開始學 NLP 的年份 | 2003 | 1:18:12 |
| 人類語言句子的平均詞數 | 約 40 詞 | 1:13:48 |
| 大猩猩用於指代事物的詞彙量 | 約 200 詞 | 1:13:48 |
術語
- Eureka Machine尤里卡機器
- Socher 提出的終極發明，能自動發明人類所需的一切。
- metacognition元認知
- 思考「思考本身」的能力，Socher 列為智能十大空間之一。
- reward hack獎勵作弊
- AI 找到獎勵函數的漏洞，用非預期方式刷高分。
- harness測試框架
- 用於運行和評估 AI 任務的軟件環境，bug 會汙染研究結果。
- hypercube超立方體
- Socher 比喻已知概念構成的空間，AI 目前只能在其內部工作。
收聽指南
適合關注 AI 自動研究、對齊與開源策略的創業者和工程師，尤其想了解 Recursive 具體戰績與獎勵作弊細節的人。
開頭關於新書營銷和監管哲學的部分可快進，直接跳到 20:01 的 AI 研究自動化。