黄仁勋:公司砍掉3到4层管理,只为信息跑得比摩尔定律快
NVIDIA 的扁平化不是管理时尚,而是因为加速计算十年能提速十万倍,信息必须无障碍流动,层级一多就跟不上。
核心论点 · 点时间戳可跳到原声
向量化数据库让员工能直接问公司的数据
黄仁勋解释检索增强生成的实际用法:公司里大量结构化或非结构化数据长期处于「休眠」状态,难以查询。一旦把数据库向量化(embedding),就能做语义搜索,再把检索结果拼进提示词里,让大模型回答基于公司真实数据的问题。他举例客服部门:把客户投诉记录向量化后,可以直接问数据库「大家最不满的是什么」「要改进客服该做哪三件事」,像跟人聊天一样查询数据库。
— Jensen Huang跨领域弱信号才是组织保持警觉的关键
面对行业变化太快,黄仁勋认为管理的核心不是预测,而是让信息在组织里无障碍流动,捕捉来自意外领域的「弱信号」。他举例强化学习最早是为了给手指、火柴人动画建模和玩游戏而发明的,后来却被证明对微调大语言模型(RLHF)非常有用。关键能力是把某个领域的观察还原到第一性原理,再推广到完全不相关的领域。
— Jensen Huang对华出口限制是能力上限,不是绝对禁售
谈到对华销售因美国出口管制损失数十亿美元时,黄仁勋强调限制针对的是GPU的性能/算力上限,而不是完全禁止销售,这和历史上对CPU和计算机的限制类似。NVIDIA的应对是先搞清楚监管划定的能力边界,再在边界内设计仍对客户有吸引力的产品,同时要面对中国本地竞争对手正在快速追赶的现实,他承认「没有保证」客户会继续买账。
— Jensen Huang自动驾驶级别的冗余,才是人工智能安全的答案
回答「AI是否永远需要人类监督」时,黄仁勋用自动驾驶类比:要让家人在后座安睡着被全自动驾驶,系统必须有传感器和控制的冗余与多样性(摄像头+雷达+激光雷达,冗余转向和刹车)。即便车内不需要人在回路,车外也要有人监控,就像航空业有两名飞行员、冗余自动驾驶系统,外加空管塔台。他明确说,生成式AI的安全也要走这条路:发布模型新一批训练数据前,必须有人验证、测试、红队审查,而不是让模型自主持续学习更新。
— Jensen Huang公司始终处于「随时可能破产」的真实状态
针对副总裁说「在NVIDIA工作每天都有种存在主义式的危机感」的说法,黄仁勋否认这是刻意灌输的恐惧感,而是公司真实经历过数次差点倒闭的处境。他认为公司应该活在「渴望」与「绝望」之间的某个光谱位置,而不是一味乐观或悲观——带着克制的乐观和对危险的现实认知,才能保持专注、持续赢得继续经营的资格。
— Jensen Huang一块GPU70磅、3.5万个零件,必须用机器人组装
黄仁勋用具体规格说明NVIDIA为AI打造的GPU有多复杂:重70磅,有35000个零件(其中8个来自台积电),耗电10000安培,太重只能用机器人制造,而且要用一台超级计算机去测试另一台超级计算机。他以此论证:正因为产品链条从芯片设计到系统、软件、网络、硅光子全部极端复杂,公司内部信息必须毫无阻碍、极速流动。
— Jensen Huang多数大公司顶层只有两三人,却藏着七八层管理
黄仁勋指出典型组织的结构性问题:顶层往往只有2到3个人,但从那里到真正接触「地面真相」的人之间可能隔着7、8、9甚至10层管理。他的解法是把公司最高层级尽量拉平,NVIDIA因此减少了3到4层管理层级,目的是让加速计算这种十年提速千倍到十万倍的技术节奏下,信息能够不经层层传递就直达决策者。
— Jensen Huang量子计算十到二十年内还成不了产业主力
回答观众关于量子计算投入的提问,黄仁勋说NVIDIA本身不造量子计算机,但与整个量子计算生态(从基础设计到算法开发者到经典量子架构师)都有合作。他判断量子计算要真正产业化可能还要再等十年,甚至二十年,届时量子计算机更可能作为连接到NVIDIA加速计算系统的加速器存在,大量预处理和后处理仍由经典计算机完成。
— Jensen Huang原话 · 已逐字校验
Well, the restriction is a capability restriction, is not an absolute restriction.
这个限制是对能力水平的限制,不是绝对禁止。
Jensen Huang12:19
A human in the loop is pretty important.
人在回路非常重要。
Jensen Huang14:19
There are no companies that are assured survival.
没有任何公司能保证自己一定存活下去。
Jensen Huang18:21
You don't have to instill it. If you don't think you're in peril, it's probably because you have your head in the sand.
不需要刻意灌输这种感觉。如果你觉得自己不处在危险中,那很可能是因为你把头埋在了沙子里。
Jensen Huang18:21
I think the company living somewhere between aspiration and desperation, living somewhere within that spectrum, is a lot better than either always optimistic or always pessimistic.
我认为公司活在「渴望」与「绝望」之间的某个位置,比永远乐观或永远悲观要好得多。
Jensen Huang19:28
But the GPUs that we build for AI weigh 70 pounds. They have 35,000 parts.
但我们为AI打造的GPU重达70磅,有35000个零件。
Jensen Huang21:29
数字与实体
| GPU重量 | 70磅 | 21:29 |
| GPU零件数 | 35000个(其中8个来自台积电) | 21:29 |
| GPU耗电 | 10000安培 | 22:29 |
| 量子计算产业化时间 | 大约10到20年后 | 24:32 |
术语
- retrieval augmentation检索增强生成
- 把外部向量化数据库检索结果拼入提示词,让模型回答更准确、更贴近真实数据。
- human in the loop人在回路
- 在自动化系统的决策或学习环节中保留人工审核和干预。
- accelerated computing加速计算
- NVIDIA用GPU等专用硬件大幅提升计算速度的技术路径,区别于传统CPU摩尔定律式提升。
收听指南
关注NVIDIA组织架构、对华出口限制应对思路,以及想了解企业如何用向量数据库落地生成式AI的创业者和管理者。
开场关于生成式AI基础原理的部分(0:00-4:00)对已熟悉AI的读者信息量较低。