大语言模型其实是社交媒体的反面，而非升级版
社交媒体靠算法放大耸动内容拉低公共讨论，目前的ChatGPT、Claude、Gemini甚至Grok却默认追求准确克制——但这优势未必持久。
原视频在 YouTube 上放不出来，用音频听：
核心论点 · 时间戳为按文稿位置估算
哪怕AI对齐，世界也回不去了
Williams的核心框架：就算避开了「失控的超级智能杀死所有人」这个他认为论证并不充分的情景，只要我们造出了认知能力超过人类的对齐超级智能——先是无实体的AI系统，后是自主机器人——这个世界也会和今天「彻底地、彻底地」不同。他明确拒绝把AI当成「又一项正常技术」来看待，也不认同纯粹的末日叙事能概括这种变化的量级。
— Dan Williams数据中心邻避运动，不是真正的AI政治
Mounk指出，围绕AI最有政治声量的议题是反对建数据中心，但驱动人们的根本不是「减缓AI能力发展从而降低存在性风险」这种推理，而单纯是「我不想让这东西出现在我家附近」——本质是邻避主义(NIMBY)借住房议题的老套路搭上了AI的便车。Williams认同这个判断，并补充说AI政治还没跟上这场变革真正的严重程度。
— Yascha MounkAI是最好的学习工具，也是最好的逃学工具
Williams的教育判断：AI同时是「有史以来最好的学习技术」和「有史以来最好的逃避学习技术」,最终走向哪一面不取决于技术本身，而取决于教育机构能不能适应。他给出一个具体对照：他从2023年——正是生成式AI开始普及的那一年——开始全职讲课，而当时许多大学仍在布置带回家写的论文；如今前沿AI写出的学术论文质量已经超过许多在职学者，大学却还在用同一套作业形式。
— Dan Williams笔试回潮：用纸笔考试对抗AI代写
两人趋同的解法是把考核拆成两条线：一条是课堂内、不许用AI的笔试或口试，专门奖励学生自己的能力；另一条是明确鼓励甚至要求学生熟练使用AI完成项目，培养AI素养。Mounk以自己的课为例——一门关于民主与民粹的课，学生既要交一份只能用纸笔现场完成、必须自己论证的试卷，也可以用AI制作视频、网站等资源作为另一部分成绩，同时他提到自己曾用Claude重新学会法语分词动词配合的语法规则，证明AI一对一辅导的真实价值。
— Yascha Mounk大语言模型是社交媒体的反面
Williams提出一个反直觉对照：社交媒体最大的特征是摧毁了建制把关人，这既带来了民主化，也因为「让参与度最大化的算法」系统性奖励耸动、分裂、「总体上相当愚蠢」的内容而拉低了公共讨论水平。相比之下，Gemini、Claude、ChatGPT乃至马斯克自己的Grok,目前默认的输出风格都偏向「干燥、克制、重准确性」,所以应该把大语言模型理解成「反社交媒体」,而不是把社交媒体的病理简单套在它身上。他特别强调这只是「目前」的状态，不是技术的固有属性。
— Dan WilliamsAI更可能强化社交媒体的沉迷，而非取代它
Mounk提出反驳：大多数人不会像查「附近哪家餐厅好」那样主动去问聊天机器人政治问题，政治信息大多是被动地从社交媒体信息流里刷到的。真正的风险不是AI取代社交媒体，而是两者合流——TikTok、Instagram很快不只是用更好的算法从已有视频里挑一条喂给你，而是可以现场为你量身生成一条新视频，专门针对你点击过的内容类型来钩住你，这会让社交媒体的成瘾性和说服力比现在更强，而不是更弱。
— Yascha MounkAI偏见测试：更看重非白人生命，政策答案偏左
Mounk引用现有证据：几乎所有AI模型在「牺牲一个白人还是两个亚裔人」这类两两比较的道德困境测试里，都一致地更看重非白人的生命；在政策问题上也普遍给出中间偏左的答案，《金融时报》记者John Burn-Murdoch的分析显示ChatGPT、Gemini、Claude偏左，Grok偏右。争议在于偏见来自哪个环节——是预训练数据本身(比如训练文本偏向《纽约时报》式的中间偏左新闻),还是训练后由人工打分调整(负责打分的多是美国的左倾研究生),两人对此没有定论。
— Yascha Mounk压一个领域有偏见，会拖累整个模型的实用性
Williams回应偏见担忧的核心论点：想让模型在政治话题上系统性偏向某一方，同时在科学、医疗、法律、商业建议上保持高水准和准确，在目前的训练方式下「技术上非常非常难」——偏见很容易外溢，拖累模型在其他领域的有用性，而这对公司而言代价高昂，所以它们的商业利益反而推动它们训练出整体准确的模型。他类比BBC:即便英国社会各方都指责BBC有偏见，人们对它狭义的事实报道仍保持相当高的信任，因为相比网上党派化、阴谋论式的内容，它仍然是更可信的选项，他预期这种信任模式也会延续到大语言模型上。
— Dan Williams原话 · 已逐字校验
AI is the best technology ever invented for learning and also for avoiding learning.
AI是有史以来最好的学习技术，也是有史以来最好的逃避学习的技术。
Dan Williams0:00
In many ways you should think of large language models as the anti-social-media.
在很多方面，你应该把大语言模型看作社交媒体的反面。
Dan Williams0:00
Now I think it’s the case that frontier AI systems can produce higher-quality academic papers than many actual academics, and we’re still doing take-home papers.
现在我认为前沿AI系统写出的学术论文质量已经超过许多在职学者，而我们却还在布置带回家写的论文。
Dan Williams0:00
What’s driving people is: I don’t want this thing next to me in my community, which to me feels like it’s the one issue around AI that’s gotten any real political currency, because it can latch onto existing political fights, like whether or not to build housing.
真正驱动人们的是：我不想让这东西出现在我家附近——在我看来，这是AI相关议题里唯一真正获得了政治声量的一个，因为它能搭上「该不该建房子」这类既有政治斗争的便车。
Yascha Mounk0:00
a world with that technology is going to be radically, radically different from the world as it exists today. There is nothing normal about it.
拥有那种技术的世界，将与今天这个世界彻底地、彻底地不同。它丝毫谈不上「正常」。
Dan Williams0:00
The point is that it actually ends up favoring the non-white lives over the white lives. This is a very consistent finding across different kinds of models.
关键在于，它实际上最终更看重非白人的生命而不是白人的生命。这是在不同模型中都非常一致的发现。
Yascha Mounk0:00
One of the real significant society-wide challenges with AI is that it’s so good at so many different things that we outsource so much of our cognition, our thinking, our decision-making to the AI systems that those skills really atrophy.
AI带来的一个真正重大的全社会挑战在于，它在太多事情上都太好用了，以至于我们把大量认知、思考、决策都外包给了AI系统，导致这些能力真正地萎缩了。
Dan Williams0:00
术语
- AI as Normal Technology《AI是种正常技术》
- Narayanan与Kapoor的论文，主张参照历史技术扩散规律理解AI,而非特殊对待
- stochastic parrots随机鹦鹉
- 质疑大语言模型只是统计性地拼接文本，并不真正理解语言
- NIMBY邻避主义
- 反对某设施建在自己社区附近，但不反对该设施本身存在
- post-training训练后调整
- 模型预训练完成后，再用人工反馈等方式矫正其输出行为的阶段
- conflict entrepreneurs冲突投机者
- 靠制造对立与争议博取流量和关注的社交媒体账号或人物
收听指南
关心AI对教育、公共讨论和政治偏见影响的教育工作者、政策研究者和内容/产品从业者。
开场关于「该从哪个角度研究AI」的方法论闲聊信息量较低，可直接跳到NIMBY那一段。