AXRP
論文作者對談 AI 安全：METR 時間地平線、有效算力這類數字都帶出處，每集兩三小時
分類AI / 技術
優先級T2
2:40:40AXRP
0802
AI 2027 作者：對齊下一代 AI，AI 比人省一千倍力氣
AI 2027 里人類對齊超級智能千難萬險，agent 4 對齊下一代卻幾乎一次成功——Eli 承認這個不對稱是真的，AI 自己動手至少省一千倍認知量。
8 要點
8 金句
AI 對齊智能爆炸
2:32:07AXRP
0218
程序均衡：交代碼比交人更可能合作，但協調極難
程序均衡讓雙方互讀源代碼，用 Löb 定理實現合作；但合作依賴幾乎相同的代碼或共享隨機數，現實中協調成本極高。
8 要點
8 金句
博弈論AI 對齊
2:05:34AXRP
0215
給 AI 產權，是為了防止它掀桌
如果 AI 擁有產權，它們就更不願意破壞產權制度本身——包括搶走人類全部財產。這不是道德關懷，是風險對沖。
8 要點
8 金句
AI 治理產權