大語言模型其實是社交媒體的反面，而非升級版
社交媒體靠算法放大聳動內容拉低公共討論，目前的ChatGPT、Claude、Gemini甚至Grok卻默認追求準確剋制——但這優勢未必持久。
原視頻在 YouTube 上放不出來，用音頻聽：
核心論點 · 時間戳為按文稿位置估算
哪怕AI對齊，世界也回不去了
Williams的核心框架：就算避開了「失控的超級智能殺死所有人」這個他認為論證並不充分的情景，只要我們造出了認知能力超過人類的對齊超級智能——先是無實體的AI系統，後是自主機器人——這個世界也會和今天「徹底地、徹底地」不同。他明確拒絕把AI當成「又一項正常技術」來看待，也不認同純粹的末日敘事能概括這種變化的量級。
— Dan Williams數據中心鄰避運動，不是真正的AI政治
Mounk指出，圍繞AI最有政治聲量的議題是反對建數據中心，但驅動人們的根本不是「減緩AI能力發展從而降低存在性風險」這種推理，而單純是「我不想讓這東西出現在我家附近」——本質是鄰避主義(NIMBY)借住房議題的老套路搭上了AI的便車。Williams認同這個判斷，並補充說AI政治還沒跟上這場變革真正的嚴重程度。
— Yascha MounkAI是最好的學習工具，也是最好的逃學工具
Williams的教育判斷：AI同時是「有史以來最好的學習技術」和「有史以來最好的逃避學習技術」,最終走向哪一面不取決於技術本身，而取決於教育機構能不能適應。他給出一個具體對照：他從2023年——正是生成式AI開始普及的那一年——開始全職講課，而當時許多大學仍在布置帶回家寫的論文；如今前沿AI寫出的學術論文質量已經超過許多在職學者，大學卻還在用同一套作業形式。
— Dan Williams筆試回潮：用紙筆考試對抗AI代寫
兩人趨同的解法是把考核拆成兩條線：一條是課堂內、不許用AI的筆試或口試，專門獎勵學生自己的能力；另一條是明確鼓勵甚至要求學生熟練使用AI完成項目，培養AI素養。Mounk以自己的課為例——一門關於民主與民粹的課，學生既要交一份只能用紙筆現場完成、必須自己論證的試卷，也可以用AI製作視頻、網站等資源作為另一部分成績，同時他提到自己曾用Claude重新學會法語分詞動詞配合的語法規則，證明AI一對一輔導的真實價值。
— Yascha Mounk大語言模型是社交媒體的反面
Williams提出一個反直覺對照：社交媒體最大的特徵是摧毀了建制把關人，這既帶來了民主化，也因為「讓參與度最大化的算法」系統性獎勵聳動、分裂、「總體上相當愚蠢」的內容而拉低了公共討論水平。相比之下，Gemini、Claude、ChatGPT乃至馬斯克自己的Grok,目前默認的輸出風格都偏向「乾燥、剋制、重準確性」,所以應該把大語言模型理解成「反社交媒體」,而不是把社交媒體的病理簡單套在它身上。他特別強調這只是「目前」的狀態，不是技術的固有屬性。
— Dan WilliamsAI更可能強化社交媒體的沉迷，而非取代它
Mounk提出反駁：大多數人不會像查「附近哪家餐廳好」那樣主動去問聊天機器人政治問題，政治信息大多是被動地從社交媒體信息流裡刷到的。真正的風險不是AI取代社交媒體，而是兩者合流——TikTok、Instagram很快不只是用更好的算法從已有視頻裡挑一條餵給你，而是可以現場為你量身生成一條新視頻，專門針對你點擊過的內容類型來鉤住你，這會讓社交媒體的成癮性和說服力比現在更強，而不是更弱。
— Yascha MounkAI偏見測試：更看重非白人生命，政策答案偏左
Mounk引用現有證據：幾乎所有AI模型在「犧牲一個白人還是兩個亞裔人」這類兩兩比較的道德困境測試裡，都一致地更看重非白人的生命；在政策問題上也普遍給出中間偏左的答案，《金融時報》記者John Burn-Murdoch的分析顯示ChatGPT、Gemini、Claude偏左，Grok偏右。爭議在於偏見來自哪個環節——是預訓練數據本身(比如訓練文本偏向《紐約時報》式的中間偏左新聞),還是訓練後由人工打分調整(負責打分的多是美國的左傾研究生),兩人對此沒有定論。
— Yascha Mounk壓一個領域有偏見，會拖累整個模型的實用性
Williams回應偏見擔憂的核心論點：想讓模型在政治話題上系統性偏向某一方，同時在科學、醫療、法律、商業建議上保持高水準和準確，在目前的訓練方式下「技術上非常非常難」——偏見很容易外溢，拖累模型在其他領域的有用性，而這對公司而言代價高昂，所以它們的商業利益反而推動它們訓練出整體準確的模型。他類比BBC:即便英國社會各方都指責BBC有偏見，人們對它狹義的事實報道仍保持相當高的信任，因為相比網上黨派化、陰謀論式的內容，它仍然是更可信的選項，他預期這種信任模式也會延續到大語言模型上。
— Dan Williams原話 · 已逐字校驗
AI is the best technology ever invented for learning and also for avoiding learning.
AI是有史以來最好的學習技術，也是有史以來最好的逃避學習的技術。
Dan Williams0:00
In many ways you should think of large language models as the anti-social-media.
在很多方面，你應該把大語言模型看作社交媒體的反面。
Dan Williams0:00
Now I think it’s the case that frontier AI systems can produce higher-quality academic papers than many actual academics, and we’re still doing take-home papers.
現在我認為前沿AI系統寫出的學術論文質量已經超過許多在職學者，而我們卻還在布置帶回家寫的論文。
Dan Williams0:00
What’s driving people is: I don’t want this thing next to me in my community, which to me feels like it’s the one issue around AI that’s gotten any real political currency, because it can latch onto existing political fights, like whether or not to build housing.
真正驅動人們的是：我不想讓這東西出現在我家附近——在我看來，這是AI相關議題裡唯一真正獲得了政治聲量的一個，因為它能搭上「該不該建房子」這類既有政治鬥爭的便車。
Yascha Mounk0:00
a world with that technology is going to be radically, radically different from the world as it exists today. There is nothing normal about it.
擁有那種技術的世界，將與今天這個世界徹底地、徹底地不同。它絲毫談不上「正常」。
Dan Williams0:00
The point is that it actually ends up favoring the non-white lives over the white lives. This is a very consistent finding across different kinds of models.
關鍵在於，它實際上最終更看重非白人的生命而不是白人的生命。這是在不同模型中都非常一致的發現。
Yascha Mounk0:00
One of the real significant society-wide challenges with AI is that it’s so good at so many different things that we outsource so much of our cognition, our thinking, our decision-making to the AI systems that those skills really atrophy.
AI帶來的一個真正重大的全社會挑戰在於，它在太多事情上都太好用了，以至於我們把大量認知、思考、決策都外包給了AI系統，導致這些能力真正地萎縮了。
Dan Williams0:00
術語
- AI as Normal Technology《AI是種正常技術》
- Narayanan與Kapoor的論文，主張參照歷史技術擴散規律理解AI,而非特殊對待
- stochastic parrots隨機鸚鵡
- 質疑大語言模型只是統計性地拼接文本，並不真正理解語言
- NIMBY鄰避主義
- 反對某設施建在自己社區附近，但不反對該設施本身存在
- post-training訓練後調整
- 模型預訓練完成後，再用人工反饋等方式矯正其輸出行為的階段
- conflict entrepreneurs衝突投機者
- 靠製造對立與爭議博取流量和關注的社交媒體賬號或人物
收聽指南
關心AI對教育、公共討論和政治偏見影響的教育工作者、政策研究者和內容/產品從業者。
開場關於「該從哪個角度研究AI」的方法論閒聊信息量較低，可直接跳到NIMBY那一段。