AI 至今没造出一个新理论,所以它不是人工人
Deutsch 的判据是:AI 只是把已知理论里没算完的部分填上,属于给有机化学图景涂色。要够到创造新知识的门槛,得先有问题——而 LLM 没有问题,问题是我们给它的。
原视频在 YouTube 上放不出来,用音频听:
核心论点 · 点时间戳可跳到原声
归纳法不是知识来源,是改名的外推
Deutsch 引 Popper 的立场:归纳法是个伪问题。归纳论者想给科学找一个对应数学演绎的机械过程,于是发明了「归纳」这个词。但归纳要成立,你必须先假设「这个趋势会继续」这条理论——所以它其实是 conjecture 加 extrapolation,而外推本身是演绎式的。它最多给你一个预测,给不了 explanation。主播据此反驳「AI 在用归纳法」:如果按 Popper 意义上的归纳,那 AI 就是在做科学发现,但它不是。
— Brett HallAI 至今没造出过一个新理论
主播给了一个具体判据:AI 能做的是从已知理论里把还没算出来的部分填上。比如给定碳氢氮氧原子数,哪些分子物理上可能存在——原子键合和碳化学的理论早就有了,只是没人有闲心去算,AI 可以代劳。数学同理,公理和推理规则都是现成的。这属于「给已有的有机化学图景涂色」,不是生成新的解释性知识。要够到创造新知识的门槛、进而算作 AGI 或「人造人」,需要的是后者。
— Brett Hall反对多世界的人先喊不可检验
主播观察到当下最常见的反驳不是拒绝解释,而是第一反应说「不可检验」。但 Deutsch 几十年前就发表过检验多世界的实验方案,主播、Maria Violaris、Sam Kuypers 都讲过,指向论文和视频之后,对方(包括物理学家)仍然不改口。这个实验需要处于叠加态的「有意识的观察者」,于是又有人说我们没有能做这件事的 AGI。主播引 Deutsch:需要 AGI 才能做这个判决性实验,不是多世界理论的过错。
— Brett Hall解释性缺口:图灵原理答不了人是什么
Deutsch 说,否认人工智能可能性的人里,有一部分其实是在表达一个更合理的批评:图灵的 computation 解释似乎原则上就不给意识、自由意志这类心理属性留任何物理解释的空间。AI 拥趸粗暴回应「图灵原理保证计算机能做大脑能做的一切」——这话没错,但它是用预测回答,而问题出在解释上,存在一个 explanatory gap。主播补一句:这就是为什么我们还编不出 AGI;说大脑是某种计算机,并不解决「人是什么」。
— Brett Hall简单规则不指定孔雀,但孔雀出现了
Deutsch 用达尔文类比:物理定律里没有写大象和孔雀的形状,它们只是原子按规则互动的涌现结果。Brett Hall 把它直接接到 Conway's Game of Life——规则极简,事先不跑一遍就不知道会产出什么。他由此批评 Michael Levin:Levin 声称 bubble sort 算法会做出不可预测的事、因而有意识,但 Hall 查了论文,发现 Levin 在方法上刻意改动了算法、引入了随机性,那已经不是标准 bubble sort,实际上是在重新发现一个低分辨率版的 Game of Life。
不知道线画在哪,不等于没有线
泛心论者的标准论证是:从人往下走系统发育树,猫狗、鸟、鼠、昆虫、鱼,找不到任何一处可以合理地划出意识的界线,所以界线不存在,意识一路下探到基本粒子。Hall 说这是把「不知道线在哪」偷换成「没有线」——「Just because you don't know where to draw a line doesn't mean there isn't a line.」他给出几个候选界线:是不是 universal explainer、脑容量是否达到某个阈值、是否存在神经系统,并承认目前没有好解释,所以一个都排除不了。
LLM 不是人,因为它们没有问题
Hall 把意识与知识创造绑在一起:知识创造依赖问题,问题是观念之间的冲突,冲突在人身上产生一种想要解决它的感受,而正是在这个「想要」里——一个主观的、有意识的状态里——人开始寻找解法并创造知识。由此他给出对 LLM 的判断:LLM 不会自我提示,它们对任何东西都不感兴趣,它们没有问题,问题是我们给它们的。这反驳了「LLM 是人工人」的说法;等到它们真的成为人工人时,它们就会有问题,反之亦然。
20世纪基础科学被同时采纳又忽视
Deutsch 的观察:四大主线的历史显示,20 世纪大部分时间里基础科学与哲学遭遇了某种很不愉快的事。实证主义和工具主义科学观的流行,与对真正解释的冷漠、信心丧失和悲观相连——而恰恰是在基础研究的声望、实用性和经费都处于历史最高点的时候。四位主角的理论被同时采纳又被忽视,这种前所未有的方式本身就说明了问题。他承认自己没有完整解释,但认为我们正在走出这个阶段。
— Brett Hall原话 · 已逐字校验
You cannot get an explanation from induction. You cannot get an explanation from deduction either. Where do explanations come from? No one knows.
你无法从归纳中得到解释。你也无法从演绎中得到解释。解释从哪来?没人知道。
Brett Hall6:11
it's not the fault of the multiverse that we require an AGI of a kind in order to perform this crucial test to decide between the multiverse and other explanations.
我们需要某种 AGI 来做这个决定多世界与其他解释之间胜负的关键检验,这不是多世界理论的过错。
Brett Hall16:46
to take a theory seriously means to regard that what it says literally describes what exists, what's there in reality.
认真对待一个理论,意味着认为它所说的字面上描述了存在的东西,现实中就在那里的东西。
Brett Hall29:27
Just because you don't know where to draw a line doesn't mean there isn't a line. You just don't know.
你不知道线该画在哪里,并不意味着线不存在。你只是不知道而已。
Brett Hall49:25
This is why I talk about LLMs as not self-prompting. They're not interested in anything. They don't have a problem. We give them problems, which is a refutation of the idea they are artificial people.
这就是为什么我说 LLM 不是自我提示的。它们对任何东西都不感兴趣。它们没有问题。问题是我们给它们的——这反驳了它们是人工人的想法。
Brett Hall51:30
Despite all the excuses I've been making for the critics of the central theories, the history of all four strands shows that something very unpleasant happened to fundamental science and philosophy for most of the 20th century.
尽管我一直在为这些核心理论的批评者找借口,但四条主线的历史都表明,20 世纪大部分时间里,基础科学和哲学遭遇了某种非常不愉快的事。
Brett Hall1:22:55
It is a fundamentally optimistic worldview that places human minds at the centre of the physical universe and explanation and understanding at the centre of human purposes.
它是一种根本乐观的世界观,把人类心智置于物理宇宙的中心,把解释和理解置于人类目的的中心。
Brett Hall1:25:03
数字与实体
| Deutsch 发表多世界检验实验的时间 | 几十年前 | 15:43 |
| Deutsch 猜测大脑类型 | 经典计算机,而非量子计算机 | 35:44 |
| DNA 已存续时间 | 数十亿年(multiple billions of years) | 53:33 |
| 用大爆炸解释二战的时间尺度 | 13.7 billion years ago | 58:48 |
术语
- universal explainer普适解释者
- Deutsch 用来定义人的能力:能理解并创造任何可被解释的东西。
- explanatory gap解释性缺口
- 指物理描述与意识、自由意志等心理属性之间缺少解释性连接。
- copper atom argument铜原子论证
- Hall 用来说明涌现物真实存在:用大爆炸解释二战是坏解释,因为它能解释任何事。
- Conway's Game of Life康威生命游戏
- 规则极简的元胞自动机,事先不跑就不知道会产出什么。
收听指南
适合对 Deutsch、Popper 认识论、多世界解释和 AI 本质感兴趣的工程师与创业者,尤其是想弄清「AI 到底算不算在创造知识」的人。
如果对归纳法、多世界检验和意识哲学不感兴趣,前 50 分钟可以跳过,直接从 50:27 的 LLM 部分听起。