谷歌握着AI全部家底却掉队,赢家拼的是信念不是算力
谷歌发明了Transformer、mesh tensor flow等整套现代AI技术栈,却因内部不信AGI而掉队;真正拉开AI实验室差距的是信不信AGI会实现,而非钱、GPU或人才。
原视频在 YouTube 上放不出来,用音频听:
核心论点 · 点时间戳可跳到原声
信念才是谷歌掉队的真正原因
Kevin说这本书本质不是技术史,而是信念史:AI实验室真正的分水岭不是钱、GPU或研究人才,而是信不信AGI会实现——因为只有信了才能把信念卖给别人,换来资源和专注力。最典型反例是谷歌,发明了Transformer、mesh tensor flow等几乎整套现代AI技术栈,内部却爆发备忘录大战,一份主张多提AGI,另一份主张永远别提,缺了信念这一环,最终把先手让给了后来者。
— Kevin Roose顶尖实验室老板是人类最好胜的一群人
Kevin说如果把全世界按好胜心排名,Demis、Dario、Sam会排进前十。例子很具体:Demis会突然消失一个周末,原来是偷偷报名职业扑克赛并且赢了,他其实不怎么会打牌;他还是童年国际象棋神童,从小习惯赢比自己年长很多的对手。这种极端竞争性被Kevin认为是驱动他们在无人相信AGI的年代坚持十几年的核心人格特质,而不只是科学理想。
— Kevin Roose曼哈顿计划的类比在AI身上失效
Demis常把DeepMind的工作比作曼哈顿计划,Dario则把自己想象成齐拉德。但Kevin指出关键差异:原子弹造出来就不用再改了,政府可以拍拍科学家肩膀说谢谢、后面交给我们,军方接管一切;而AI模型需要持续的后训练、版本迭代、修bug,政府里根本没人有技术能力接手一份模型checkpoint继续训练。这意味着AI实验室的创始人不会像曼哈顿计划的科学家那样被轻易架空。
— Kevin Roose人们嘴上恨AI,手上离不开它
Jordan问人们是不是真像嘴上说的那样讨厌AI。Kevin判断现在只是一种审美层面的恨,但如果失业率上升两个百分点,这种恨会变成真实的、有政治杀伤力的愤怒,失业率到10%可能引发街头骚乱甚至暴力。但两人都认为即便如此,程序员不会回去手写Python,律师也不会放弃ChatGPT和Claude——真正能让AI收缩的只有职业协会式的组织化抵抗,比如法律行业的准入门槛,而不是情绪上的反AI。
— Kevin RooseDario为何是最强对华鹰派,无人能解释
Kevin说三位领袖里Dario对中国态度最鹰派,Anthropic的中国籍员工比例也明显低于其他实验室,但没人能完全说清原因。唯一线索是Dario读博后的第一份科技工作是在百度硅谷分部,从那段经历之后他开始相信民主国家必须抢先于中国到达AGI。中文互联网的传言是他曾经历一段中国感情的破裂,Kevin自己明确说是推测而非事实的猜测是,他可能因为不知道自己训练的系统最终被怎么用而感到不安。
— Kevin Roose没人能解释为什么大模型真的work
Noam Shazeer离开谷歌后写的一篇论文,结尾写道把这一切归因于神的仁慈。Kevin说这不是比喻式的感慨,而是有人真心认为:堆更多算力和数据训练出更聪明的模型这件事本身,没有人能从科学上证明它为什么该成立,这感觉就像宇宙的某种基本定律——没人知道为什么氢和氧要结合成水,这仍然是AI领域最大的谜。
— Kevin RooseAnthropic曾邀小特朗普入股,遭拒绝
Jordan提到一个他认为本该写进书里却没写的细节:在特朗普政府国防部改组等动作之前、比较早的阶段,Anthropic曾提出让小特朗普进入公司cap table,但对方拒绝了。两人讨论认为马斯克当时是更关键的变量——马斯克既是Sam的死对头,也在特朗普任期初期扮演着实际的守门人角色,这解释了为什么AI实验室和白宫的关系从一开始就很微妙。
— Jordan Schneider2027年智能爆炸:AI研发被AI自动化
Kevin说一个几年前还很边缘的说法——2027年出现智能爆炸——现在被不少严肃的人告诉他真有可能发生,AI对自身研发的全自动化可能最快明年就出现。即使今天所有进展戛然而止,社会和制度大概也需要十年才能消化现有技术。如果真的触发递归自我改进,模型可能每六天左右显著变强一次,这种速度带来的不稳定性是人类社会从未经历过的。
— Kevin Roose原话 · 已逐字校验
Because only by believing and then only by selling that belief to others can you amass the resources and the focus to to get to AGI.
因为只有先相信,再把这种相信卖给别人,你才能聚集起足够的资源和专注力,真正走到AGI。
Kevin Roose9:06
Like they are some of the most competitive people who have ever lived.
他们是有史以来最好胜的一批人。
Kevin Roose18:37
The generals really take over. They're like, thank you for your work. We'll take it from here.
是将军们真正接管一切。他们会说,谢谢你的工作,接下来交给我们了。
Kevin Roose21:52
I think there's like an aesthetic hate. But if unemployment goes up by two points, that turns into an extremely real hate.
我觉得现在是一种审美层面的恨。但如果失业率上升两个百分点,这种恨就会变成极其真实的恨。
Kevin Roose26:58
We have no explanation for why this works.
我们没有任何解释能说明这东西为什么会起作用。
Kevin Roose38:25
What could possibly be more important than teaching sand to think?
还有什么事能比教会沙子思考更重要呢?
Jordan Schneider47:33
they offered to let uh trump jr on the cap table and then he said no
他们曾提出让小特朗普进入公司的股权结构表,然后他拒绝了。
Jordan Schneider50:41
this guy cannot tell a lie to save his life
这家伙就算拼了命也撒不了谎。
Kevin Roose52:48
数字与实体
| 访谈中提及的公司估值说法 | 两万亿美元 | 16:18 |
| 讨论中提到的引发社会动荡的失业率阈值 | 10% | 28:04 |
术语
- RSI (Recursive Self-Improvement)递归自我改进
- AI自己改进自身研发能力,进而加速自身进步的正反馈过程。
- LessWrong理性主义社区论坛
- 讨论AI风险、理性思维的线上社区,早期AGI信念者聚集地。
- cap table股权结构表
- 记录公司股东及其持股比例的清单。
- LARP真人角色扮演游戏
- 参与者扮演历史或虚构角色、按剧情互动推演的沉浸式游戏。
收听指南
关注AI实验室权力格局、对硅谷领袖心理和中美AI叙事分歧感兴趣的创业者、投资人。
结尾模仿列宁说唱的彩蛋段落信息量低,可跳过。