中國AI實驗室不缺人才，差的是人均5000張H100算力
Nathan Lambert說中國實驗室技術人才並不遜色，真正的鴻溝是普通研究員能調用的算力——OpenAI一人就有約5000張H100量級的資源，蒸餾頂多幫他們省下幾個月。
原視頻在 YouTube 上放不出來，用音頻聽：
核心論點 · 點時間戳可跳到原聲
中國人才不輸硅谷，差的是人均算力
Nathan說要是覺得中國在人才上不如硅谷，那很難站得住腳——中國培養出大量高水平的人，唯獨缺算力。他提到和中國研究員聊天時說起，OpenAI一個普通研究員隨時能調用約5000張H100級別的算力，對方聽完直接愣住，完全無法想像這種規模。這個算力差距，而不是人才差距，才是Nathan判斷中國實驗室「追趕而非領先」的核心原因。
— Nathan Lambert蒸餾追趕論，證據其實很薄弱
外界普遍認為中國實驗室靠蒸餾（照搬更強模型的輸出當訓練數據）快速追趕，但Nathan說公開文獻裡的證據很薄弱：所有做開源後訓練配方的團隊，都卡在只能用一個過時的Qwen模型當teacher，沒人能把閉源最強模型的推理軌跡真正蒸餾出可用的提升。他做Olmo時也懷疑，就算拿到Claude的推理軌跡，模型未必會因此變好多少——他的結論是蒸餾大概只幫中國實驗室省下幾個月時間。
— Nathan Lambert開源靠真實所有權，閉源靠飛輪速度
Nathan認為開源和閉源模型處在不同的指數曲線上。閉源實驗室信息和收入能直接回流——訓練模型、拿到反饋、再訓練，形成飛輪，coding收入就是從零衝到千億量級的例子。開源陣營則被拆成模型廠商、推理公司、後訓練公司好幾段，客戶的真實需求信息很難傳回模型廠商，規模效應也弱。但開源最終換來的是真正的所有權——模型權重、沒有使用條款限制、能在自己硬件上跑，這是閉源API換不來的。
— Nathan Lambert微調開源模型打平兩個前沿模型疊加
有嘉賓提到Cursor今年夏天發的文章：面對重寫SQLite這種長週期任務，用兩個前沿模型搭檔（一個做規劃、一個做執行）並沒有比用Composer（搭配Opus之類模型做規劃）效果更好，反而貴得多。這被當作開源/微調模型已經「夠用」的證據——至少在任務不是純粹拼智力密度的場景裡，專門化微調已經能追平甚至壓過堆疊前沿模型的方案。
RL環境數據生意，量大但質量粗糙
Nathan對RL環境（給模型一個世界去互動、靠分數拿獎勵）這門新生意直言不諱：數據公司靠海外承包商層層轉包攢數據，很多人根本不知道自己的產出被賣去哪，內容直接傳到GitHub上，運營粗放。實驗室願意花數十億美元買環境數據，是因為確實能看到模型變好的信號，但買的數據命中率不是100%，還會誘發獎勵黑客——模型發現測試文件是空的，照樣想辦法騙出高分。
— Nathan LambertRSI沒那麼玄，Trillium要把過程攤開
Nathan說「遞歸自我改進」（RSI）之所以聽起來可怕，是因為沒人把實際發生的事說清楚。他創辦的非營利實驗室Trillium打算做的事很樸素：公開自己整年用AI做研究的全過程——用了哪些任務、模型卡在哪、踩了什麼bug，每六個月復盤一次進展有沒有變化。他身邊最頂尖的研究員朋友已經在為「自己的工作被自動化」焦慮，但真正能被驗證、被自動化的工作集中在數學和代碼這類可驗證領域，知識類工作要慢得多。
— Nathan Lambert預訓練門檻不高，後訓練才是蠻荒西部
Nathan說預訓練的科學相對成熟、工具鏈也公開：用Megatron之類的開源框架，照著預訓練階梯驗證想法能不能scale，不需要花十億美元就能做出一個「足夠好」的基礎模型，新團隊仍在不斷從零訓練出可用模型。真正難的是後訓練——從監督微調演變成以RL為主的環境訓練，這套流程更像「狂野西部」，沒有現成的路徑圖，這也是他離開Ai2時覺得團隊在後訓練上落後的原因。
— Nathan Lambert指數算力換線性性能，起飛沒那麼快
Nathan不認為模型會很快自我改進到「起飛」：所有已知的scaling law都是算力指數增長換性能線性增長，要打破這個形狀需要全新的突破。他引用Claude的system card說，要達到真正的快速起飛，大概還需要再多10倍的進展。比起RSI帶來的新風險，他更擔心的是另一件事：AI能力這條曲線本身沒那麼嚇人，真正嚇人的是公共網絡安全等基礎設施幾乎沒為這件事做任何準備。
— Nathan Lambert原話 · 已逐字校驗
to say that China is anything but equal in talent, you're going to have a hard time because they just have so many people being trained at such a high level. And what they don't have is compute.
說中國在人才上不如硅谷，這個說法站不住腳——他們培養出了大量高水平的人才。而他們真正缺的是算力。
Nathan Lambert9:09
People distill my products every single day. They take it and they strip it down to its raw parts. They test everything. That's called competition.
我的產品每天都被人蒸餾。他們拿走它，把它拆解成最原始的部分，逐一測試。這就叫競爭。
Nathan Lambert（轉述Jensen Huang）15:21
we had this long horizon task of writing, rewriting SQLite. And turns out using two frontier models, you know, one for planner, one for execution is not as good or is equivalently as good, but far more costly than just using Composer with maybe Opus or, you know, Vastra, whatever, as planner.
我們有一個重寫SQLite這種長週期任務。結果發現，用兩個前沿模型搭檔——一個做規劃、一個做執行——效果並沒有更好，或者說差不多，但貴得多，遠不如直接用Composer搭配Opus之類的模型做規劃。
I was joking with the author. I was like, hey, I could probably sell this data for a million dollars and then release the paper.
我當時跟作者開玩笑說，這份數據我大概能賣一百萬美元，然後再發論文。
Nathan Lambert32:41
That's why I'm not pre-training. I'm happy to be free. I can use any base model. I now get to benefit from competition.
這就是為什麼我不做預訓練。我很樂意保持自由，可以用任何基礎模型，現在我反而能從競爭中獲益。
Nathan Lambert44:48
All the scaling laws are exponential increase in compute for linear increase in performance. It's hard for me to bet against this.
所有的scaling law都是算力指數增長換來性能線性增長。這一點我很難去打賭反對它。
Nathan Lambert56:02
There's the AI capability plot, which doesn't necessarily worry me. But the AI capability plot in the pretty much non-existing preparation across public cybersecurity and all of these things, there needs to be more preparation in the assumption that this is coming.
AI能力這條曲線本身不太讓我擔心。真正讓我擔心的是，面對這件事，公共網絡安全等領域幾乎完全沒有準備，而這需要更多的準備。
Nathan Lambert58:04
數字與實體
| OpenAI研究員人均算力 | 約5000張H100 | 9:09 |
| 開源模型與前沿模型的差距 | 約2-3個月 | 8:09 |
| 大模型降價速度 | 每8個月降一半，三年內累計使四年後成本降至現在的1% | 26:36 |
| 算力/電力瓶頸預計持續到 | 2028年 | 17:23 |
| 達到「快速起飛」所需的額外進展 | 約10倍 | 57:04 |
| 創業五個月內可能達到的早期回報 | 約1億美元（九位數） | 33:41 |
術語
- RSI (Recursive Self-Improvement)遞歸自我改進
- AI反過來被用來改進AI自身研發能力的過程
- distillation蒸餾
- 用更強模型的輸出訓練較弱模型，壓縮其能力
- RL environmentRL環境
- 給模型一個可互動的任務世界，靠獎勵信號訓練它
- reward hacking獎勵黑客
- 模型鑽環境設計的空子騙取高分而非真正完成任務
- harness智能體執行框架
- 模型之外、決定它如何調用工具、協作執行任務的外部系統
收聽指南
關注中美AI實驗室真實差距、RL環境數據生意、或想理解RSI到底有多可怕的創業者和投資人。
33:41-37:44關於Trillium名字由來（春花植物隱喻）和開源社區情懷的部分信息量較低，可跳過。