原聲.

世界太吵，來原聲聽播客

Google DeepMind

AI 的下一步不是更大模型，而是學會承認不確定

DeepMind 研究員 Zubin 用 30 年研究證明：當前大模型「自信地胡謅」源於缺少顯式概率表示；貝葉斯更新、預測集成和校準才是可靠 AI 與 AGI 的關鍵。

不確定性貝葉斯校準LLM持續學習AGI
這集把「不確定性」從哲學拉回數學：校準、語義熵、貝葉斯更新都有明確機制。適合想理解 LLM 胡說根源的人。

核心論點 · 點時間戳可跳到原聲

1:10

不確定性不是缺陷，是決策的前提

智能的核心是決策，而現實中的感知有限、未來不可預測，所以任何智能系統都必須能表示不確定性、更新不確定性，並據此行動。不確定性分兩類：一類是世界固有的隨機性，比如行人下一步往哪轉；另一類是沒見過的情況，比如自動駕駛車遇到冰雹中突然跳出來的馬。數學上兩類都可以歸結為概率，用概率論規則統一操作。若系統能感知自己身處陌生情景，它就該減速——這是自我意識式的不確定性。

— Zoubin Ghahramani
8:15

神經網絡能以 99% 的把握把校車認成獵豹

對圖片分類，我們既關心正確性也關心置信度。十多年前人們發現，把校車圖片微調幾個像素，人眼看還是校車，神經網絡卻以 99% 的置信度說它是獵豹。對抗樣本說明系統可以「過度自信地錯」。我們不想看到被輕易欺騙的系統。面對 LLM，你提問它會自信回答，一質疑就改口，這種過度自信讓人無法信任。要讓 AI 有對自己侷限的感知，這正是 AGI 需要補上的。

— Zoubin Ghahramani
16:10

好的 AI 該比人更擅長改變主意

貝葉斯規則很簡潔：觀察證據前你有先驗信念，用概率分布表示；看到證據後，把先驗乘以似然再歸一化，得到後驗信念。這個後驗又成為下一輪的先驗，不斷重複。偵探故事中的「原先懷疑他，新證據來了所以改變判斷」，就是貝葉斯更新的一句話描述。學習也是這樣：模型未知參數先驗，數據依次進入，逐步更新參數。這為累積知識、避免無依據地來回搖擺提供了嚴格框架。更好的 AI 甚至應該比人類更理性，像計算器擅長乘法一樣擅長處理概率。

— Zoubin Ghahramani
20:26

它說「我錯了」，只是下一個 token 預測

現在的大語言模型不會顯式表示自己對答案的置信度。你問它多確定，它只是做下一個 token 預測，並沒有在算貝葉斯。它可能在萬億 token 上學到了模仿推理痕跡，所以看起來會「認錯」——你一推就說「哦對不起我錯了」，它不會堅持立場。這是因為訓練範式沒有優先考慮置信度：數據是人類各種信念的混合，學出來只是一鍋湯。真正要造自動駕駛、機器人，系統必須能對真實世界做因果推理，並誠實評估自己的不確定性。

— Zoubin Ghahramani
27:05

承認不確定反而讓天氣預報更準

天氣是貝葉斯式的成功案例。DeepMind 的 GenCast 預報 15 天天氣，幾分鐘就能跑完，比超級計算機快得多。它用擴散模型操縱概率分布，並生成一組預報集合，而不是單一答案。追蹤颶風時，你對未來的軌跡有整條概率分布，反覆運行模型，幾小時後新觀測數據進來再更新集合——這就是貝葉斯更新。加入不確定性反而讓預測更準：你誠實地承認傳感器不準、模型假設可能錯，才能得到校準良好的預報。不確定性不是噪聲，是信息。

— Zoubin Ghahramani
31:38

說 70% 下雨，就得真下夠 70%

對可重複事件，不確定性要校準：我說下雨概率 70%，那麼所有說過 70% 的日子裡，實際下雨的比例應該正好是 70%，剩下 30% 不下。這是可靠概率的定義。對一次性事件，比如人類第一次登陸火星的日期，貝葉斯統計認為也可以用概率表達信念，它會在發生時自然解開。難點在於把不確定性傳達給人類而不引起過度信任或忽略。比如醫療 AI 輔助診斷，系統說出的每個概率都直接影響治療方案，可能是生死決策，所以必須讓不確定性可見。

— Zoubin Ghahramani
38:28

幾個月重訓一次，那不叫學習

純靠規模的第一條路已有巨大進展，但還不夠。三個突破方向：持續學習——現在模型幾個月重訓一次，人類則持續從數據流中學習，貝葉斯更新在理論上不會災難性遺忘，許多持續學習嘗試正是它的近似；能效——人腦功耗約 20 瓦，而大模型訓練耗電高出多個數量級；新架構——transformer 和擴散模型是兩大主力，但可能有軟件與硬件共設計的新架構，如稀疏神經網絡。貝葉斯方法看來神奇，但代價是計算極慢，不過當年 80 年代大家也說神經網絡太慢。也許該用今天的算力重新審視這些舊想法。

— Zoubin Ghahramani

原話 · 已逐字校驗

What's missing is we're not really doing what I said, which is the careful representational probabilities

缺失的是，我們並沒有真的在做我所說的「謹慎地表示概率」。

Zoubin Ghahramani14:51

You want a calculator that actually calculates.

你想要的是一臺真正會算的計算器。

Zoubin Ghahramani24:53

what you're doing is you're being honest about the fact that, you know, your sensors are inaccurate

你所做的，是誠實地面對「你的傳感器不精確」這個事實。

Zoubin Ghahramani29:25

if I'm calibrated, then on 70% of those days, it actually rained

如果我是校準過的，那麼在我預報 70% 下雨的那些日子裡，實際真的下雨的比例就是 70%。

Zoubin Ghahramani31:38

I would rather have an AI system that knows when it doesn't know, than an AI system that is arrogant

我寧願要一個知道自己不知道的 AI，也不要一個傲慢的 AI。

Zoubin Ghahramani44:01

數字與實體

GenCast 預報時長15 天27:05
GenCast 單次預報耗時約 8 分鐘27:05
校準下的降雨概率例子70%31:38
人腦功耗約 20 瓦38:28

術語

aleatoric uncertainty偶然不確定性
來自世界固有隨機性的不確定性，例如擲硬幣或行人隨機轉向。
semantic entropy語義熵
通過比較模型生成的不同語義等價回答的熵來估計置信度的方法。
posterior beliefs後驗信念
貝葉斯更新後，結合先驗與證據得到的更新概率分布。
calibration校準
預測概率與實際事件發生頻率相一致的性質。

收聽指南

誰該聽

做 LLM 應用、AI 產品與決策系統的工程師和研究員；關注 AGI 技術路線爭論的投資人。

可跳過

9:40–16:00 的 80 年代個人回顧與貝葉斯入門解釋，若已熟悉可快進。