Interconnects

Nathan Lambert 的后训练与开源模型分析，技术判断少有水分

本站已深读8 / 165 集

更新节奏约 3.1 天一集

最新一集2026-10-06

分类AI / 技术

优先级T2

中美AI差距只有六到八个月：全面封杀蒸馏也拖不了太多

Epoch AI研究员JS Denain认为中美顶尖模型差距只有六到八个月，即便彻底禁掉蒸馏，六个月后差距也只会从六个月扩大到八九个月。

中国模型在下载量和基准上全面领先，但蒸馏只解释一到两个月差距，真正原因是发布节奏和任务聚焦；美国公司正靠中国模型做产品。

实验室内部自动化集中在软件工程和日志监控这类可测量任务，而扩展定律要求指数级算力才能换来线性智能提升——RSI 更可能让模型变便宜，而不是让智能爆炸。

AI 风险讨论被一次辞职推到了极端，但真正该担心的不是灭绝，而是实验室连自己的基础设施都没加固。

工业革命给普通人便宜衣服和缝纫机，AI 目前只给普通人好玩的图片和更好的搜索——好处太间接，而政治反弹来得太快。

模型在长文非虚构写作上进步缓慢，暴露了其组织知识能力的缺陷，这比代码和数学的进步更值得警惕，因为它关乎AI能否解决开放科学问题。

Nathan Lambert 逐条拆掉「中国开源模型只是蒸馏出来的」这个叙事：RL 阶段用 Fable/GPT 5.6 当裁判在成本上根本跑不通，而即便白送最强模型的 reasoning traces，学界至今不知道怎么把它变成能力提升。

Kimi K3 把开源落后闭源的差距从争论中的 6-9 个月压到 3-5 个月，而这层时间差正是唯一的风险缓冲——重手监管开源只会推迟不可避免的事，同时把缓冲本身作废掉。