世界太吵,來原聲聽播客

張小珺·商業訪談錄

英偉達研究副總裁:模型終局是生態,不是擊敗對手

劉洺堉:模型能力終將趨同,英偉達做開源世界模型不是競爭而是鋪路;物理 AI 的 GPT 時刻未到,但條件正在匯聚。

世界模型Cosmos英偉達黃仁勳物理 AI機器人
劉洺堉是英偉達第一個也是罕見的從研究員升到 VP 的人,他拆解了 Cosmos 立項、收斂、開源背後的判斷,也提供了觀察黃仁勳管理的一手視角。

核心論點 · 點時間戳可跳到原聲

4:40

世界模型在英偉達是產品,不是研究項目

劉洺堉介紹自己的頭銜是研究副總裁兼 Cosmos Lab 副總裁,直屬團隊約八九十人,加上公司內其他做 Cosmos 相關工作的團隊,總共有 200 到 300 人。他是整個 mission 的 owner,負責決定方向。他強調這是英偉達內部一個很重大的專案,投入這麼多人員是因為「做出好的成果」需要這樣的資源。這也說明世界模型在英偉達內部被提到了前所未有的高度,不只是研究項目,而是有明確產品使命的工程團隊。

— 劉洺堉
1:24:21

管理者的認可必須和公司利益一致

劉洺堉說自己在英偉達前幾年每年跳一級,可能是第一個從研究員做到 VP 的人。原因是他很早就進入英偉達,在還沒有 AI 人才時幫助公司建立 AI 社區知名度、解釋 AI 怎麼影響公司,同時自己又喜歡落地,一步步獲得信任。現在他帶領的團隊每天運算成本是幾百萬美金,公司能把這個規模交給他,正是長期對齊的結果。他強調對齊公司非常重要,純粹的研究員想要 recognition,但管理者的 recognition 必須和公司利益一致。

— 劉洺堉
1:41:09

Sora 出來之後,說服黃仁勳就不難了

Cosmos 在 2024 年 3 月左右決定要做,時點就在 Sora 之後。劉洺堉說 Sora 出來之前說服黃仁勳比較難,看到 Sora 之後就不難了,因為黃仁勳一眼就看出這件事對公司的影響。他和一群做生成式模型的研究員一起給黃仁勳寫郵件,要求把世界模型做出來。黃仁勳把大家聚在一起開會,還要求每個人回去想產品名字。劉洺堉當時覺得黃仁勳會提出更好的名字,不想浪費力氣,但黃仁勳堅持讓他想,因為名字和產品定位相關。最後定了 Cosmos,目標不是做創作,而是解物理世界的問題。

— 劉洺堉
1:54:47

22 個模型不是選擇豐富,是迭代變慢

Cosmos 1 時代劉洺堉自己做估算,要滿足各種客戶需求,可能需要 22 個模型。他在和黃仁勳開會時彙報這個數字,黃仁勳用 Costco 的例子回應:當減少貨品陳列數量之後,銷售額反而提升了,因為太多選擇會困惑消費者。劉洺堉也發現自己都分不清什麼時候用 A、什麼時候用 B,更別說外部使用者。同時每個模型都需要維護,模型越多迭代速度越慢。所以 Cosmos 2 到 3 是一個很大的 gap,從多個模型收斂成一個統一的世界模型,把理解、預測、生成、動作全部合在一起。

— 劉洺堉
2:08:22

雙塔只是階段性方案,一個塔就夠了

Cosmos 3 採用雙塔結構,一個塔處理離散信息負責理解,一個塔處理連續信息負責生成。劉洺堉解釋這是現階段很合理的選擇,因為離散的 reasoning 和連續的 generation 分開,能讓客戶在做 post-training 時互不干擾。如果全部連在一起,客戶調整生成分布時可能會破壞理解能力。但他直接說下一步目標是更簡單,「為什麼要兩個塔,一個塔就夠了」。他們正往單塔方向前進,但要同時考慮使用者是否容易上手,不能為了追求工程完美而犧牲可用性。最終架構還沒定,要看部署成本哪個更優。

— 劉洺堉
2:31:45

人怕犯錯就不敢做決定,所以要給容錯

Cosmos 3 的論文有 290 多人,不到 300。劉洺堉認為大團隊的核心矛盾是:既要所有人目標一致,又要每個人都能自主做決定。如果只有少數決策者,進展會很慢;如果大家各自做決定但目標不一致,就會發散甚至賽馬。他的做法是花很多心思設計團隊合作方式,讓資訊透明、每個人都有足夠信息做正確決定,同時提供容錯空間,因為人害怕犯錯就不敢做決定。他還強調在論文出來之前,他就和主要 leader 講清楚模型會長什麼樣,讓所有人看到同一個願景,就像籃球罰球前先想像球空心入網。

— 劉洺堉
2:52:41

不裁員比裁員慢,換來的是員工敢說話

劉洺堉說英偉達沒有末位淘汰,也不裁員。他在英偉達十年裡沒聽到過裁員消息。他認為員工對公司有安全感和信任,才願意說出在擔心被淘汰的地方不敢說的話;如果所有人都搶著出頭,反而不容易團結合作。缺點是當一項技術成熟時,員工需要時間學習新東西做轉型,比直接裁掉再招新人慢。但公司得到的是員工信任和團結。黃仁勳在硅谷看過這麼多風風雨雨,選擇這種模式是深思熟慮的。英偉達跑馬拉松,靠的是提前布局,比如 CUDA 就布局了十年。

— 劉洺堉
3:07:40

落後不能怪條件,本來就沒有公平

劉洺堉用「六邊形戰士」形容黃仁勳:既能深入到 register 級別的計算機架構細節,也能講 marketing 和定價,面面俱到。他回憶自己曾用「setting 不公平」解釋落後於競品,黃仁勳直接說「Are you kidding me? 實際上沒有什麼是公平的」,讓他明白做研究要為目標創造條件,而不是找理由。黃仁勳的管理核心是 Mission is the boss,公司像一個有機體,當要往某個方向走時,不同團隊的技能會自動對齊。他還提到黃仁勳每天讀大量郵件、找信號、做優先級判斷,這些都影響了他自己現在每半小時切換一個話題的工作方式。

— 劉洺堉

原話 · 已逐字校驗

我們做完cosmos一的時候,問那個jason要不要繼續往下做。…然後janson跟我說,你就做到cosmos97。

我們做完 Cosmos 1 的時候,問 Jensen 要不要繼續往下做。然後 Jensen 跟我說,你就做到 Cosmos 97。

劉洺堉1:36:54

我們認為一個好的物理世界的 model也要把action當成first citizen。…這是為什麼我們把language哦video跟action合在一起建這個cosmo站。

我們認為一個好的物理世界的模型也要把 action 當成 first-class citizen。…… 這就是為什麼我們把 language、video 和 action 合在一起建這個 Cosmos 模型。

劉洺堉2:02:11

你需要你的機器人會覺奧數問題嗎? 你需要有機器人會解這個co定的問題嗎?

你需要你的機器人會解奧數問題嗎?你需要有機器人會解 coding 的問題嗎?

劉洺堉2:19:21

如果你可以跟我們一起合作啊,利用我們做的東西,那你可以走的更快更遠。

如果你可以跟我們一起合作,利用我們做的東西,那你可以走得更快更遠。

劉洺堉2:43:18

他每天都覺得公司只能要30天的現金流,嗯,30天后就要破產。

他每天都覺得公司只剩下 30 天的現金流,30 天后就要破產。

劉洺堉2:50:34

當沒有所謂的末位淘汰的時候,大家也不會就是真的這麼的啊就是這麼擔心被淘汰而搶出頭。

當沒有所謂的末位淘汰的時候,大家也不會真的這麼擔心被淘汰而搶出頭。

劉洺堉2:53:48

你不需要擊敗你的對手。我不喜歡把他們當成是對手,喜歡把他當成是夥伴。

你不需要擊敗你的對手。我不喜歡把他們當成對手,喜歡把他們當成夥伴。

劉洺堉3:04:25

他那時候給我句話說,are you quietba.實際上沒有什麼是公平的。

他那時候給我句話說:Are you kidding me? 實際上沒有什麼是公平的。

劉洺堉3:08:41

數字與實體

Cosmos 相關團隊人數200 到 300 人4:40
Cosmos 1 時代預估所需模型數22 個1:54:47
Cosmos 3 論文作者數290 多人,不到 3002:31:45
劉洺堉團隊每天運算成本幾百萬美金1:24:21
Cosmos 迭代節奏與 97 代所需時間每半年一代,做到 97 代還要 40 多年2:29:45
加入英偉達時公司人數不到 2 萬人,現在 2 倍以上2:50:34

術語

Physical AI物理 AI
能感知物理世界並採取行動改變世界狀態的 AI,如機器人和自動駕駛。
World Foundation Model世界基座模型
Cosmos 對自己的定位:為所有物理 AI 應用提供更底層的基礎模型。
Multimodal Transformer多模態 Transformer
統一處理文本、視頻、音頻和動作信號的 Transformer 架構,是 Cosmos 3 的核心。
Dual-tower雙塔架構
將離散理解信號和連續生成信號分開處理的雙塔結構,Cosmos 3 的階段性選擇。

收聽指南

誰該聽

關注世界模型、機器人和英偉達技術路線的創業者、投資人與工程師,尤其想理解英偉達為什麼做開源模型的人。

可跳過

開頭前 20 分鐘的求學與職業經歷可加速,黃仁勳管理細節和 Cosmos 演進在後半段。