AI 当提问者而非代笔，才是教育该有的用法
把 LLM 用在研究流程的第 2 到第 6 步、只让它提问不生成想法，学生才不会被「很聪明」的假象骗过；摄影逼死写实绘画，AI 也会逼出人独有的那部分。
原视频在 YouTube 上放不出来，用音频听：
核心论点 · 点时间戳可跳到原声
AI 只提问，不替学生想问题
研究者把「提出好研究问题」拆成八步：选题、生成子题、扩展关键词、检索并综合文献、找知识缺口、形成并迭代具体问题、回头用文献验证、找专家同行反馈。他们只把 LLM 用在第 2 到第 6 步，做成一个叫 Socratic questioner 的工具，让 AI 只对学生提问——「这够窄吗」「你想过那个吗」——逼学生自己迭代，不生成想法、不替学生干活。作者的理由是：非结构化地用 LLM，它会给出 weakly justified 甚至人为幻觉的结论，因为 LLM 擅长模仿人类思考与说话的结构，但本身不是深度思考者，会制造「很聪明」的假象。
— Steven Novella研究方法靠导师口传，方差极大
Cara 指出，大学里真正支撑这套研究训练的是 library science 部门，但多数学生根本不去用。更关键的是，这套东西通常靠导师带，而不是系统化教学：跟到好导师你就行，跟不到你就缺一大块，方差极大。能走到前面的人往往是对这件事有直觉，而直觉教不了，只能教流程和方法。这正是这项研究想补的洞——把过程操作化，每一步告诉你目标是什么。
— Cara Santa MariaAI slop 是基线，超过它才算做事
Steven 用摄影对绘画的冲击作类比：当画得像不再稀缺，画家必须做别的事。同理，如果 AI slop 是基线，你产出不超过 AI 单独能做的，就没有为流程增加任何价值。他设想的课堂练习是：同一道检索，一边用 AI 提示、一边关掉功能，看你能不能找到 AI 找不到的东西。他也把分歧摆明：AI 进教育是必然的，不必然的是它会让一代人因依赖 AI 而智力残废，还是让一代人学会与 AI 最优协作、思考更清楚。
— Steven Novella机器人能跑赢博尔特，却插不上插头
第二届世界人形机器人运动会在北京举行，2000 多台机器人参赛，项目包括跑步、踢拳、工厂作业、餐厅服务。Tiangong Ultra 跑 100 米用了 8.64 秒，快过 Usain Bolt 的 9.58 秒；同一台机器人一年前跑同样距离要 21.5 秒，Jay 认为巨大改动来自驱动它的软件而非硬件。但 Jay 把重点放在另一头：把一根延长线插进墙上的插座，人要识别线、确认接头匹配、抓握、判断朝向、旋转、对准、用恰当的力插入、知道何时停手，插不进去还要排查——这些我们全在意识之外完成，却是机器人最大的拦路虎。
— Jay Novella比赛现场：跑完终点线就着火
Jay 强调这些只是 demonstration，不是稳定能力：比赛期间机器人仍在摔倒，有一台散成零件，还有一台冲过终点线后起火——literally finished in flames。他用 Moravec's paradox 解释这个反差：我们以为智力上困难的事，计算机做起来可能很容易；而感知、平衡、操作物体这些人类不必有意识思考的能力，对机器却极其困难。数据侧，一家中国机器人公司说现有真实世界机器人训练数据集大约含 10 万小时，他们正试图收集数千万小时，路径与 Tesla 靠海量驾驶小时反哺系统类似。
— Jay Novella99% 这个数字来自便利样本
2017 年一项研究取 202 名已故球员的便利样本，约一半是 NFL 球员，结果 99% 的 NFL 捐赠大脑有 CTE，非 NFL 的也有 87%。Cara 说这数字吓人但不意外，因为捐赠本身就带选择偏差：球员生前出现认知衰退、痴呆或神经精神症状，家属才会决定捐脑，捐的时候已经怀疑有 CTE。所以不能把这个百分比读成人群患病率——「那正是他们捐给你的原因」。新研究把分母换成全部 1,712 名已故前 NFL 球员，得到 18.5% 到 98.7% 的区间，Cara 说这个区间大到几乎不说明问题，只是设了一个地板。
— Cara南极微生物靠吃空气里的氢气活着
研究分析了 676 个微生物基因组，发现能量代谢相关基因被水平转移得异常频繁，其中突出的是氢养型（aerotrophy）：微生物把氢气、一氧化碳、部分还有甲烷与氧结合获取能量，相当于一种极慢的燃烧。如果这份能量被用来把大气 CO2 固定成生物量，就成了「大气化学合成」。在零下 20 摄氏度、某些南极土壤中，微生物可以靠这些气体满足几乎全部基础能量需求。副产品是液态水——在最干燥的大陆上，等于凭空从空气里取水。Bob 由此提出：天体生物学家几十年的口号是「跟着水走」，这项工作提示另一个可能更有产出的口号是「跟着氢走」。
— Bob聚变功率是磁场的四次方
磁约束的关键是磁场能多强，必须用超导磁体，否则电阻会发热烧掉整个装置。聚变功率随磁场强度的四次方缩放：磁场翻倍，同样体积等离子体的输出变成 16 倍；三倍就是 81 倍。所以把磁场做到尽可能强不是优化项，是决定项。新方案用稀土陶瓷材料，超导温度从 4 Kelvin 提到 60 Kelvin 左右，到了液氮温区；真正的大头是最大超导磁场强度从旧磁体的 12 Tesla 推到 20 Tesla。公司还留了一手——磁体里的导线是什么，他们说是 secret sauce，不告诉任何人。节目里明确点出这让人想起过去那些号称终极电池、却不肯展示的技术，区别在于这次对方说设计、材料、概念验证都做完了。
stellarator 最大的老毛病是漏等离子体
节目回顾这家公司一路的进展：每遇到一个路障就解决一个，然后冒出下一个，但一直在解决。最新设计至少解决了 stellarator 几十年来的最大问题——等离子体泄漏，这是过去迈不过去的坎。仅这一项就是巨大收益，也让 stellarator 路线必须被认真对待，算是挤进了主流玩家行列。但主持人明确说自己仍在保持怀疑，要看到真的发出比输入更多的电才信，并认为 2030 年代偏乐观，2035 年前出现商业 stellarator 会让他意外。
原话 · 已逐字校验
LLMs are good at mimicking the structure of human thought and speech, right? But they're not deep thinkers themselves. So they kind of create this illusion that what they're saying is is very intelligent, but it's actually very superficial.
LLM 擅长模仿人类思考与说话的结构，但它们本身不是深度思考者。所以它们制造出一种假象，好像自己说的东西很聪明，其实非常肤浅。
Steven Novella19:19
Another one caught on fire after crossing the finish line. It literally finished in flames.
还有一台冲过终点线后起火了。它真的是在火焰中完赛的。
Jay Novella33:29
So, we can't really read to into this percentage of these brains had CTE. It's like, yeah, that's why they donated them to you.
所以我们不能过度解读「这些大脑中有多少比例有 CTE」这个数字。就像，是啊，那正是他们把它捐给你的原因。
Cara46:42
So now you have a range of 18.5% to 98.7%. That's a big range. That doesn't really tell us anything, does it?
所以现在你得到的是 18.5% 到 98.7% 这样一个区间。这个区间太大了。它其实什么都没告诉我们，对吧？
Cara48:46
So when microbes oxidize hydrogen aerobically, water is created. Now, how cool is that? You're in one of the driest places in the world and you could basically pluck liquid water out of the atmosphere right all around you.
当微生物在有氧条件下氧化氢气时，水就被制造出来了。这有多酷？你身处世界上最干燥的地方之一，却基本上可以从周围的大气里直接摘取液态水。
Bob1:09:00
because fusion power scales to the fourth power of the magnetic field that means that if you double the magnet the magnetic power you get 16 times the output fusion power from the same volume of plasma fusion and then if you triple it that's 81
因为聚变功率随磁场的四次方缩放，这意味着如果你把磁场强度翻倍，同样体积的等离子体就能得到 16 倍的聚变输出功率；如果变成三倍，那就是 81 倍。
the big thing is that the maximum superconducting magnetic field strength was 20 Tesla. 20 Tesla. It stays super Yeah. stays superconducting at 20 Tesla. The previous type of current the current magnets they used were 12 Tesla.
最关键的一点是，最大超导磁场强度是 20 Tesla。20 Tesla。它在 20 Tesla 下仍保持超导。而他们之前用的那类现有磁体是 12 Tesla。
When anyone's looking for funding, I take everything they say with a grain of salt. Right. And until I, you know, I'm skeptical until they freaking do it. is the bottom line till they do it.
任何人在找融资的时候，他们说的每一句话我都会打个折扣听。对。在他们真的做出来之前，我都保持怀疑。底线就是：等他们做出来再说。
数字与实体
| Tiangong Ultra 100 米成绩 | 8.64 秒 | 25:25 |
| Usain Bolt 100 米世界纪录 | 9.58 秒 | 25:25 |
| 同一机器人一年前 100 米成绩 | 21.5 秒 | 26:26 |
| 2017 年研究中 NFL 捐赠大脑的 CTE 比例 | 99% | 44:41 |
| 2017 年研究中非 NFL 捐赠大脑的 CTE 比例 | 87% | 44:41 |
| 新研究中确诊 CTE 的捐赠大脑数 / 捐赠总数 | 315 / 338（93.2%） | 48:46 |
| 按全部 1,712 名已故球员计算的 CTE 患病率区间 | 18.5% – 98.7% | 48:46 |
| 旧磁体最大超导场强 | 12 Tesla | 1:24:24 |
| 新陶瓷材料最大超导场强 | 20 Tesla | 1:24:24 |
术语
- Socratic questioner苏格拉底式提问者
- 只向学生提问、不生成想法的 LLM 工具，逼学生自己迭代研究问题。
- Moravec's paradox莫拉维克悖论
- 人类以为困难的高阶推理对机器容易，而感知与操作对机器极难。
- CTE慢性创伤性脑病
- 与反复头部撞击相关的神经退行性病变，只能尸检确诊。
- aerotrophy氢养型
- 微生物把氢气等气体与氧结合获取能量的代谢方式，相当于极慢燃烧。
- stellarator仿星器
- 靠三维螺旋磁场约束等离子体的聚变装置，形状复杂曾被放弃。
- secret sauce秘方
- 公司拒绝披露的磁体导线材料，节目以此类比过往不肯展示的技术。
收听指南
对 AI 教育用法、人形机器人能力边界、CTE 流行病学数字、聚变磁体路线感兴趣的工程师与投资人，尤其适合想看清「演示」与「稳定能力」差距的人。
中段 CTE 与南极微生物之间约 50 分钟到 1 小时 4 分的过渡可快进。