黃仁勳:公司砍掉3到4層管理,只為信息跑得比摩爾定律快
NVIDIA 的扁平化不是管理時尚,而是因為加速計算十年能提速十萬倍,信息必須無障礙流動,層級一多就跟不上。
核心論點 · 點時間戳可跳到原聲
向量化數據庫讓員工能直接問公司的數據
黃仁勳解釋檢索增強生成的實際用法:公司裡大量結構化或非結構化數據長期處於「休眠」狀態,難以查詢。一旦把數據庫向量化(embedding),就能做語義搜索,再把檢索結果拼進提示詞裡,讓大模型回答基於公司真實數據的問題。他舉例客服部門:把客戶投訴記錄向量化後,可以直接問數據庫「大家最不滿的是什麼」「要改進客服該做哪三件事」,像跟人聊天一樣查詢數據庫。
— Jensen Huang跨領域弱信號才是組織保持警覺的關鍵
面對行業變化太快,黃仁勳認為管理的核心不是預測,而是讓信息在組織里無障礙流動,捕捉來自意外領域的「弱信號」。他舉例強化學習最早是為了給手指、火柴人動畫建模和玩遊戲而發明的,後來卻被證明對微調大語言模型(RLHF)非常有用。關鍵能力是把某個領域的觀察還原到第一性原理,再推廣到完全不相關的領域。
— Jensen Huang對華出口限制是能力上限,不是絕對禁售
談到對華銷售因美國出口管制損失數十億美元時,黃仁勳強調限制針對的是GPU的性能/算力上限,而不是完全禁止銷售,這和歷史上對CPU和計算機的限制類似。NVIDIA的應對是先搞清楚監管劃定的能力邊界,再在邊界內設計仍對客戶有吸引力的產品,同時要面對中國本地競爭對手正在快速追趕的現實,他承認「沒有保證」客戶會繼續買賬。
— Jensen Huang自動駕駛級別的冗餘,才是人工智能安全的答案
回答「AI是否永遠需要人類監督」時,黃仁勳用自動駕駛類比:要讓家人在後座安睡著被全自動駕駛,系統必須有傳感器和控制的冗餘與多樣性(攝像頭+雷達+激光雷達,冗餘轉向和剎車)。即便車內不需要人在迴路,車外也要有人監控,就像航空業有兩名飛行員、冗餘自動駕駛系統,外加空管塔臺。他明確說,生成式AI的安全也要走這條路:發布模型新一批訓練數據前,必須有人驗證、測試、紅隊審查,而不是讓模型自主持續學習更新。
— Jensen Huang公司始終處於「隨時可能破產」的真實狀態
針對副總裁說「在NVIDIA工作每天都有種存在主義式的危機感」的說法,黃仁勳否認這是刻意灌輸的恐懼感,而是公司真實經歷過數次差點倒閉的處境。他認為公司應該活在「渴望」與「絕望」之間的某個光譜位置,而不是一味樂觀或悲觀——帶著剋制的樂觀和對危險的現實認知,才能保持專注、持續贏得繼續經營的資格。
— Jensen Huang一塊GPU70磅、3.5萬個零件,必須用機器人組裝
黃仁勳用具體規格說明NVIDIA為AI打造的GPU有多複雜:重70磅,有35000個零件(其中8個來自台積電),耗電10000安培,太重只能用機器人制造,而且要用一臺超級計算機去測試另一臺超級計算機。他以此論證:正因為產品鏈條從芯片設計到系統、軟件、網絡、硅光子全部極端複雜,公司內部信息必須毫無阻礙、極速流動。
— Jensen Huang多數大公司頂層只有兩三人,卻藏著七八層管理
黃仁勳指出典型組織的結構性問題:頂層往往只有2到3個人,但從那裡到真正接觸「地面真相」的人之間可能隔著7、8、9甚至10層管理。他的解法是把公司最高層級儘量拉平,NVIDIA因此減少了3到4層管理層級,目的是讓加速計算這種十年提速千倍到十萬倍的技術節奏下,信息能夠不經層層傳遞就直達決策者。
— Jensen Huang量子計算十到二十年內還成不了產業主力
回答觀眾關於量子計算投入的提問,黃仁勳說NVIDIA本身不造量子計算機,但與整個量子計算生態(從基礎設計到算法開發者到經典量子架構師)都有合作。他判斷量子計算要真正產業化可能還要再等十年,甚至二十年,屆時量子計算機更可能作為連接到NVIDIA加速計算系統的加速器存在,大量預處理和後處理仍由經典計算機完成。
— Jensen Huang原話 · 已逐字校驗
Well, the restriction is a capability restriction, is not an absolute restriction.
這個限制是對能力水平的限制,不是絕對禁止。
Jensen Huang12:19
A human in the loop is pretty important.
人在迴路非常重要。
Jensen Huang14:19
There are no companies that are assured survival.
沒有任何公司能保證自己一定存活下去。
Jensen Huang18:21
You don't have to instill it. If you don't think you're in peril, it's probably because you have your head in the sand.
不需要刻意灌輸這種感覺。如果你覺得自己不處在危險中,那很可能是因為你把頭埋在了沙子裡。
Jensen Huang18:21
I think the company living somewhere between aspiration and desperation, living somewhere within that spectrum, is a lot better than either always optimistic or always pessimistic.
我認為公司活在「渴望」與「絕望」之間的某個位置,比永遠樂觀或永遠悲觀要好得多。
Jensen Huang19:28
But the GPUs that we build for AI weigh 70 pounds. They have 35,000 parts.
但我們為AI打造的GPU重達70磅,有35000個零件。
Jensen Huang21:29
數字與實體
| GPU重量 | 70磅 | 21:29 |
| GPU零件數 | 35000個(其中8個來自台積電) | 21:29 |
| GPU耗電 | 10000安培 | 22:29 |
| 量子計算產業化時間 | 大約10到20年後 | 24:32 |
術語
- retrieval augmentation檢索增強生成
- 把外部向量化數據庫檢索結果拼入提示詞,讓模型回答更準確、更貼近真實數據。
- human in the loop人在迴路
- 在自動化系統的決策或學習環節中保留人工審核和干預。
- accelerated computing加速計算
- NVIDIA用GPU等專用硬件大幅提升計算速度的技術路徑,區別於傳統CPU摩爾定律式提升。
收聽指南
關注NVIDIA組織架構、對華出口限制應對思路,以及想了解企業如何用向量數據庫落地生成式AI的創業者和管理者。
開場關於生成式AI基礎原理的部分(0:00-4:00)對已熟悉AI的讀者信息量較低。