AI 不会抽象,所以你的工作不是检查代码
Cronin 说 AI 只是快速的浅层探索者:过去是离散的、可被机器学习,未来是连续的、原则上无法被机器学习,人类能凭空造出一个新空间再跳过去。
核心论点 · 点时间戳可跳到原声
计算化学在模拟,computation 在造
Cronin 把两个常被混用的词拆开:computational chemistry 是用第一性原理去算一个分子稳不稳定、两个试剂会不会反应、有哪些同分异构体,对象是假想的分子和反应。而 computation 是另一回事:能不能用一套机器把一系列配方归一化,然后在标准硬件上跑出来。他承认这个跳跃当年听起来像胡话,所以借图灵的思路——先假设存在一个能造出任何分子的机器人,再问怎么把化学反应实例化到它上面。
— Lee Cronin化学只有四个原语
他花了十年才想明白:化学只有四个原语——加物质、减物质、加能量、减能量。于是可以造一条类似图灵机的纸带,但每格不是 0 或 1,而是试剂、反应、废料或产物;读写头不是读写比特,而是注入试剂、移走产物、移走废料。再叠上纠错和异常检测,就得到化学的通用状态机。他说这花了一个十年才到,有点难为情。
— Lee CroninChemify 想做化学界的 AWS
Chemify 成立四年、230 人,做的是按模板的研究级分子制造加发现。Cronin 的判断是二十年内地球上每一个被发明出来的分子都会走这类状态机。他批评当下的 digital chemistry 多是机器学习在编造分子、假装能造出来,因为没有状态机,结果是「大家在幻觉自己造不出来的分子」。他把公司定位成化学的 AWS,并说精神目标是帮助发现生命起源,那是它的火星,养活公司的是替人发明分子。
— Lee Cronin化学计算机卡在编译器上
团队用 Belousov-Zhabotinsky 振荡反应做化学计算:一个 7×7、49 个流体连通的格子阵列,每格可在红蓝之间振荡,用磁力搅拌开关耦合,让它们像晶体管一样处理信息。但和量子计算一样,卡在找不到合适的编译器把问题编译到硬件上。他同时划清界限:大脑是 20 瓦、2.5 公斤的湿信息处理器,但他不认为大脑按 Church-Turing 意义在计算——那需要标记方案、转移规则和纠错。
— Lee CroninAI 不会抽象,检查代码不是重点
Cronin 说,AI 焦虑里最常见的误判是「AI 写代码快,我们以后就只负责检查代码」。他指出检查代码不是重点,重点是重新架构、搞清楚发生了什么,因为 AI 不会抽象(AIs do not abstract)。他把当下处境类比成没有相对论就先把卫星打上天:卫星会 frame drag、会丢时间,GPS 每天偏大约 6 英里,我们只能事后修补。机器学习让我们看到无法解释的现象,是因为我们还没有关于心智、智能和创造力的正确理论。
— Lee Cronin过去可被机器学习,未来原则上不行
Cronin 的论证核心:未来与过去不同,过去是离散的、被我们装进箱子并打上标签,所以可以搜索;未来是连续的、无限的,你怎么采样?用什么传感器——视觉、声学还是别的?你按传感系统的误差和分辨率给它打标签,再据此建立世界图景。因此「我们可以机器学习过去,但原则上无法机器学习未来」。这也是他认为宇宙看起来无限有创造力的原因。
— Lee Cronin生命起源要的是可重复的不可重复性
Cronin 实验室在 Miller-Urey 类实验里开始看到 persistence 的涌现:反应放得足够久,小分子会互相帮助,搭出复杂度的阶梯。他的一位博士后找到了 tyrosine,还找到了一个 dipeptide,但这低于 assembly index 15,仍处在组合爆炸范围内。他对团队说,任何生命起源实验里你想看到的是「可重复的不可重复性」。团队反问那怎么和设计糟糕的实验区分开,他的回答是会有共同标志:先有一个可重复的 gamish,然后当它走向非确定性时,你应该能操纵它。他承认这等于承认人在往里加信息、在 steer 它,永远逃不掉这一点。
— Lee Croninassembly index 25 的化学空间是 10 的 117 次方
氨基酸的 assembly index 在 3 到 11 之间,而每往上走一个数,化学空间是双指数增长。Cronin 团队重算了药物化学空间:过去按分子量估算大约是 10 的 60 次方个分子,改用 assembly index 后,index 为 25 的分子空间是 10 的 117 次方。作为参照,宇宙中的原子数是 10 的 80 次方。他说这正是化学特殊、智能和创造力来自化学的原因——可能性空间本身就在那里。
— Lee Cronin原话 · 已逐字校验
I found was realized that chemistry only has four primitives. It's kind of embarrassing it took a decade to get there, but the four primitives are add matter, subtract matter, add energy, subtract energy.
我发现并意识到,化学只有四个原语。花了十年才走到这里,有点难为情,但这四个原语就是:加物质、减物质、加能量、减能量。
Lee Cronin10:20
So we're in this ridiculous situation where everyone's hallucinating molecules they can't make.
所以我们处在一个荒谬的处境里:每个人都在幻觉自己造不出来的分子。
Lee Cronin15:21
Drawing a molecule on a computer is not proof that it exists.
在电脑上画出一个分子,并不证明它存在。
Lee Cronin16:21
AIs today are what I call shallow explorers. They're fast shallow explorers.
今天的 AI 是我所说的浅层探索者。它们是快速的浅层探索者。
Lee Cronin43:45
we can machine learn the past, but we cannot in principle machine learn the future because the future is continuous and the past is discrete
我们可以机器学习过去,但原则上无法机器学习未来,因为未来是连续的,而过去是离散的。
Lee Cronin47:45
what you want to see in any origin of life experiment is reproducible irreproducibility
在任何生命起源实验里,你想看到的是可重复的不可重复性。
Lee Cronin1:08:56
There is no way you can create that molecule randomly in any abundance without an evolutionary process. Zero. It's like finding a million Mona Lisas on Mars.
没有任何办法能在没有演化过程的情况下随机造出那个分子并达到任何丰度。零。这就像在火星上找到一百万幅蒙娜丽莎。
Lee Cronin1:18:58
I think there's probably life everywhere in the universe. I think that it's a fairly common event, but I have absolutely no data to back that up.
我认为宇宙中可能到处都有生命。我认为这是一件相当常见的事,但我完全没有数据支持这一点。
Lee Cronin1:39:07
数字与实体
| Chemify 员工数 | 230 人 | 14:21 |
| Chemify 成立年数 | 4 年 | 14:21 |
| BZ 反应计算阵列 | 7×7,49 个流体连通单元 | 22:26 |
| 大脑功耗与质量 | 20 瓦、2.5 公斤 | 23:27 |
| GPS 每日偏差(无相对论修正的假设下) | 约 6 英里 | 39:41 |
| 747 的零件数 | 约一百万个 | 43:45 |
| Cronin 对硅基 AI 真正具备创造力的否定置信度 | 99.99999% | 49:46 |
| 生命系统物体的 assembly index 阈值 | 大于 15 | 1:13:57 |
| 紫杉醇分子量 | 833 | 1:18:58 |
| assembly index 25 的化学空间分子数 | 10 的 117 次方 | 1:33:04 |
术语
- Chemputation化学计算
- 把化学反应归一化到通用状态机上执行,而非在电脑里模拟分子。
- Assembly Theory组装理论
- 用最少组装步数(assembly index)和副本数刻画物体复杂度,判断其是否来自演化过程。
- assembly index组装指数
- 用固定数量原子积木造出某物体所需的最少步数,生命系统产物通常大于 15。
- reproducible irreproducibility可重复的不可重复性
- 生命起源实验中希望看到的标志:整体可复现,但每次跑出的具体产物不同。
- shallow explorers浅层探索者
- Cronin 对今天 AI 的称呼:在已有数据集内快速搜索,但不做创造性跳跃。
收听指南
做 AI 应用、基础模型和科学计算的工程师与创业者,尤其关心「AI 能不能做原创研究」这个判断的人。
1:11:56 起关于熵是否主观的争论,可跳过。