世界太吵,來原聲聽播客

CoolWorldsLab

AI 不會抽象,所以你的工作不是檢查代碼

Cronin 說 AI 只是快速的淺層探索者:過去是離散的、可被機器學習,未來是連續的、原則上無法被機器學習,人類能憑空造出一個新空間再跳過去。

AI 創造力生命起源組裝理論化學計算機器學習邊界
信息密度高但跳躍大:化學計算、生命起源、assembly theory、AI 創造力四塊硬內容,後半段關於未來不可機器學習的論證最值錢。

核心論點 · 點時間戳可跳到原聲

3:15

計算化學在模擬,computation 在造

Cronin 把兩個常被混用的詞拆開:computational chemistry 是用第一性原理去算一個分子穩不穩定、兩個試劑會不會反應、有哪些同分異構體,對象是假想的分子和反應。而 computation 是另一回事:能不能用一套機器把一系列配方歸一化,然後在標準硬件上跑出來。他承認這個跳躍當年聽起來像胡話,所以借圖靈的思路——先假設存在一個能造出任何分子的機器人,再問怎麼把化學反應實例化到它上面。

— Lee Cronin
10:20

化學只有四個原語

他花了十年才想明白:化學只有四個原語——加物質、減物質、加能量、減能量。於是可以造一條類似圖靈機的紙帶,但每格不是 0 或 1,而是試劑、反應、廢料或產物;讀寫頭不是讀寫比特,而是注入試劑、移走產物、移走廢料。再疊上糾錯和異常檢測,就得到化學的通用狀態機。他說這花了一個十年才到,有點難為情。

— Lee Cronin
14:21

Chemify 想做化學界的 AWS

Chemify 成立四年、230 人,做的是按模板的研究級分子製造加發現。Cronin 的判斷是二十年內地球上每一個被發明出來的分子都會走這類狀態機。他批評當下的 digital chemistry 多是機器學習在編造分子、假裝能造出來,因為沒有狀態機,結果是「大家在幻覺自己造不出來的分子」。他把公司定位成化學的 AWS,並說精神目標是幫助發現生命起源,那是它的火星,養活公司的是替人發明分子。

— Lee Cronin
21:25

化學計算機卡在編譯器上

團隊用 Belousov-Zhabotinsky 振盪反應做化學計算:一個 7×7、49 個流體連通的格子陣列,每格可在紅藍之間振盪,用磁力攪拌開關耦合,讓它們像晶體管一樣處理信息。但和量子計算一樣,卡在找不到合適的編譯器把問題編譯到硬件上。他同時劃清界限:大腦是 20 瓦、2.5 公斤的溼信息處理器,但他不認為大腦按 Church-Turing 意義在計算——那需要標記方案、轉移規則和糾錯。

— Lee Cronin
39:41

AI 不會抽象,檢查代碼不是重點

Cronin 說,AI 焦慮裡最常見的誤判是「AI 寫代碼快,我們以後就只負責檢查代碼」。他指出檢查代碼不是重點,重點是重新架構、搞清楚發生了什麼,因為 AI 不會抽象(AIs do not abstract)。他把當下處境類比成沒有相對論就先把衛星打上天:衛星會 frame drag、會丟時間,GPS 每天偏大約 6 英里,我們只能事後修補。機器學習讓我們看到無法解釋的現象,是因為我們還沒有關於心智、智能和創造力的正確理論。

— Lee Cronin
46:45

過去可被機器學習,未來原則上不行

Cronin 的論證核心:未來與過去不同,過去是離散的、被我們裝進箱子並打上標籤,所以可以搜索;未來是連續的、無限的,你怎麼採樣?用什麼傳感器——視覺、聲學還是別的?你按傳感系統的誤差和分辨率給它打標籤,再據此建立世界圖景。因此「我們可以機器學習過去,但原則上無法機器學習未來」。這也是他認為宇宙看起來無限有創造力的原因。

— Lee Cronin
1:08:56

生命起源要的是可重複的不可重複性

Cronin 實驗室在 Miller-Urey 類實驗裡開始看到 persistence 的湧現:反應放得足夠久,小分子會互相幫助,搭出複雜度的階梯。他的一位博士後找到了 tyrosine,還找到了一個 dipeptide,但這低於 assembly index 15,仍處在組合爆炸範圍內。他對團隊說,任何生命起源實驗裡你想看到的是「可重複的不可重複性」。團隊反問那怎麼和設計糟糕的實驗區分開,他的回答是會有共同標誌:先有一個可重複的 gamish,然後當它走向非確定性時,你應該能操縱它。他承認這等於承認人在往裡加信息、在 steer 它,永遠逃不掉這一點。

— Lee Cronin
1:33:04

assembly index 25 的化學空間是 10 的 117 次方

氨基酸的 assembly index 在 3 到 11 之間,而每往上走一個數,化學空間是雙指數增長。Cronin 團隊重算了藥物化學空間:過去按分子量估算大約是 10 的 60 次方個分子,改用 assembly index 後,index 為 25 的分子空間是 10 的 117 次方。作為參照,宇宙中的原子數是 10 的 80 次方。他說這正是化學特殊、智能和創造力來自化學的原因——可能性空間本身就在那裡。

— Lee Cronin

原話 · 已逐字校驗

I found was realized that chemistry only has four primitives. It's kind of embarrassing it took a decade to get there, but the four primitives are add matter, subtract matter, add energy, subtract energy.

我發現並意識到,化學只有四個原語。花了十年才走到這裡,有點難為情,但這四個原語就是:加物質、減物質、加能量、減能量。

Lee Cronin10:20

So we're in this ridiculous situation where everyone's hallucinating molecules they can't make.

所以我們處在一個荒謬的處境裡:每個人都在幻覺自己造不出來的分子。

Lee Cronin15:21

Drawing a molecule on a computer is not proof that it exists.

在電腦上畫出一個分子,並不證明它存在。

Lee Cronin16:21

AIs today are what I call shallow explorers. They're fast shallow explorers.

今天的 AI 是我所說的淺層探索者。它們是快速的淺層探索者。

Lee Cronin43:45

we can machine learn the past, but we cannot in principle machine learn the future because the future is continuous and the past is discrete

我們可以機器學習過去,但原則上無法機器學習未來,因為未來是連續的,而過去是離散的。

Lee Cronin47:45

what you want to see in any origin of life experiment is reproducible irreproducibility

在任何生命起源實驗裡,你想看到的是可重複的不可重複性。

Lee Cronin1:08:56

There is no way you can create that molecule randomly in any abundance without an evolutionary process. Zero. It's like finding a million Mona Lisas on Mars.

沒有任何辦法能在沒有演化過程的情況下隨機造出那個分子並達到任何丰度。零。這就像在火星上找到一百萬幅蒙娜麗莎。

Lee Cronin1:18:58

I think there's probably life everywhere in the universe. I think that it's a fairly common event, but I have absolutely no data to back that up.

我認為宇宙中可能到處都有生命。我認為這是一件相當常見的事,但我完全沒有數據支持這一點。

Lee Cronin1:39:07

數字與實體

Chemify 員工數230 人14:21
Chemify 成立年數4 年14:21
BZ 反應計算陣列7×7,49 個流體連通單元22:26
大腦功耗與質量20 瓦、2.5 公斤23:27
GPS 每日偏差(無相對論修正的假設下)約 6 英里39:41
747 的零件數約一百萬個43:45
Cronin 對硅基 AI 真正具備創造力的否定置信度99.99999%49:46
生命系統物體的 assembly index 閾值大於 151:13:57
紫杉醇分子量8331:18:58
assembly index 25 的化學空間分子數10 的 117 次方1:33:04

術語

Chemputation化學計算
把化學反應歸一化到通用狀態機上執行,而非在電腦裡模擬分子。
Assembly Theory組裝理論
用最少組裝步數(assembly index)和副本數刻畫物體複雜度,判斷其是否來自演化過程。
assembly index組裝指數
用固定數量原子積木造出某物體所需的最少步數,生命系統產物通常大於 15。
reproducible irreproducibility可重複的不可重複性
生命起源實驗中希望看到的標誌:整體可復現,但每次跑出的具體產物不同。
shallow explorers淺層探索者
Cronin 對今天 AI 的稱呼:在已有數據集內快速搜索,但不做創造性跳躍。

收聽指南

誰該聽

做 AI 應用、基礎模型和科學計算的工程師與創業者,尤其關心「AI 能不能做原創研究」這個判斷的人。

可跳過

1:11:56 起關於熵是否主觀的爭論,可跳過。