AXRP
论文作者对谈 AI 安全：METR 时间地平线、有效算力这类数字都带出处，每集两三小时
分类AI / 技术
优先级T2
2:40:40AXRP
0802
AI 2027 作者：对齐下一代 AI，AI 比人省一千倍力气
AI 2027 里人类对齐超级智能千难万险，agent 4 对齐下一代却几乎一次成功——Eli 承认这个不对称是真的，AI 自己动手至少省一千倍认知量。
8 要点
8 金句
AI 对齐智能爆炸
2:32:07AXRP
0218
程序均衡：交代码比交人更可能合作，但协调极难
程序均衡让双方互读源代码，用 Löb 定理实现合作；但合作依赖几乎相同的代码或共享随机数，现实中协调成本极高。
8 要点
8 金句
博弈论AI 对齐
2:05:34AXRP
0215
给 AI 产权，是为了防止它掀桌
如果 AI 拥有产权，它们就更不愿意破坏产权制度本身——包括抢走人类全部财产。这不是道德关怀，是风险对冲。
8 要点
8 金句
AI 治理产权