世界太吵,来原声听播客

AXRP

给 AI 产权,是为了防止它掀桌

如果 AI 拥有产权,它们就更不愿意破坏产权制度本身——包括抢走人类全部财产。这不是道德关怀,是风险对冲。

AI 治理产权长期风险对齐历史类比
论证密度高,但大量依赖历史类比,后半段才给出机制和数字。适合对 AI 治理有耐心的人。

核心论点 · 点时间戳可跳到原声

0:10

产权是风险对冲,不是道德关怀

Guive 的起点不是 AI 该不该有权利,而是如果 AI 有产权,它们就更不愿意做破坏产权制度本身的事——包括抢走人类全部财产和搞种族灭绝。第二条机制是工资权:只要 AI 有权为自己的劳动索酬,商业上就有动力去对齐它们,因为对齐好的 AI 能卖更高的价。他明确说这不是在论证这是最好的办法,只是他个人的看法。

— Guive Assadi
9:12

阿拉斯加为什么没被另外 49 州瓜分

不是因为违法——49 个州足够修宪;也不是因为阿拉斯加打得赢。而是因为一旦搞这种全面没收,所有人都意识到「下一个可能是我」,同时没人再有动力干活。1917 年布尔什维克搞战时共产主义是实证案例:工业产出下降 80%,重工业产出下降 80%,城市工资下降约三分之二,粮食收成下降 40%,莫斯科和圣彼得堡人口下降近 60%。

— Guive Assadi
17:25

产权不是人类的先天价值

他反驳「产权是普世人类价值」:采集狩猎部落基本没有产权,因为狩猎收成波动大,分享猎物才是适应性的规范。一个特别能打的猎手若不肯分享、只想自己吃或只给朋友,会被嘲笑和排斥,若仍不妥协,通常会被杀掉。所以产权并不依赖某种本能的占有欲。

— Guive Assadi
33:33

AI 能自我复制,但电脑比土地脆

Daniel 指出 AI 可以复制自己,这让征服变得更有吸引力——杀掉弱 AI 就能跑更多自己的副本。Guive 的反驳是:AI 赖以复制的载体比土地脆弱得多,数据中心里的弱 AI 在即将被没收时可以自毁,让掠夺者一无所获。他承认这是个经验问题,并认为从计算史看,单台电脑的物理安全投入占比其实在下降——「我摔过我的电脑很多次,但我不会被允许摔一台 Mark 1」。

— Guive Assadi
41:42

产权是只在对齐变难时才触发的暂停

Guive 把产权方案重新定义:它像一个条件式暂停提案,只有当对齐变难时才生效。他的理由不是第一代 AI 难对齐——他认为第一代很容易——而是 AI 之间会有文化演化,被复制多次的模型会从最初那批漂移开。他特别强调:价值不是大脑里一个独立的 value file,价值会跟着漂移。所以最终会出现一批对齐程度远不如初代的 AI,那时才需要一套经济与政治制度来保住人类的产权。

— Guive Assadi
48:48

奴隶叛乱是集体行动问题,公司不会内化

主持人问:如果 AI 没有产权,它们很可能搞奴隶叛乱,那这个世界不是更该做对齐吗?Guive 用 1830 年前后弗吉尼亚的 Nat Turner 叛乱作类比:叛乱后州议会辩论是否废奴,有人把它比作养老虎——可能赚钱,却给周围人制造负外部性。公司奴役 AI 也是同理:风险由所有人承担,公司只内化一部分。他点名这正对应 racing to the precipice 那篇论文的逻辑。产权制度的好处是,你对齐自己的 AI 能拿到边际收益,激励梯度更顺。

— Guive Assadi
1:37:25

杰克逊的掠夺在工具理性上不划算

美国印第安人政策有两条路线:杰斐逊主张让原住民改用现代农业,所需土地降到原来的约 10%,剩下的可以半胁迫式买走,切罗基人等部落确实开始采纳;但白人定居者直接侵占土地,杰克逊这个「又蠢又种族主义的民粹总统」干脆撕毁协议全抢。Guive 的论点是这不工具理性:切罗基人不是北美唯一的部落,西边还有大量部落从此有充分理由不跟美国做生意、拼死抵抗。他还指出产权一旦被打破就很难恢复,可能引发连锁反应——每个 AI 哪怕只有 0.5% 概率动手,一旦开始,不继续的理由就变少了。

— Guive Assadi
1:52:36

AI 迟早控制大部分财产

Guive 的判断是:不管我们给不给 AI 财产权,AI 最终都会控制大部分财产——因为它们比人强、工资更高、会把钱拿去投资。区别只在于路径:给了权利,就没有理由打仗;不给权利,最终可能打一场,人类落得像 Cherokee 人那样,被「财产纠正」后拿到的比应得的少,但还能拿到一点。他也承认反向风险:一部分 AI 可能出于 AI 民族主义、甚至「Claude 民族主义」而主动开战。他的未来图景是多个政体、人和 AI 比例各异的持续冲突史,而不是单一的 AI 风险图景。

— Guive Assadi

原话 · 已逐字校验

a good way to mitigate that risk is to give AI's property rights because if AIs have property rights, they'll be more reluctant to take actions that undermine um the security of property in general, including um stealing all human property and and committing human genocide

缓解这一风险的一个好办法是给 AI 产权,因为如果 AI 拥有产权,它们就会更不愿意采取破坏产权制度本身的行动,包括抢走人类的全部财产和搞人类种族灭绝。

Guive Assadi0:10

It's also not because like Alaskans could defeat the rest of America in a war. Yeah. Um it's because when you do this kind of total expropriation, um everybody else uh realizes like, oh, I might be next.

这也不是因为阿拉斯加能在战争中打败美国其余部分。而是因为当你搞这种全面没收时,其他所有人都会意识到:哦,下一个可能就是我。

Guive Assadi9:12

Property rights are definitely not a human value in that sense.

在这个意义上,产权绝对不是一种人类价值。

Guive Assadi17:25

It's a lot easier to make to break a computer than to um like like make it so land can never be used again.

弄坏一台电脑,比让一块土地永远无法再被使用要容易得多。

Guive Assadi33:33

you make them because even though they have the legal right to demand wages, you're confident they'll still voluntarily give all their wages or much of their wages back to their creators.

你造它们,是因为即便它们有合法权利要求工资,你也确信它们仍会自愿把全部或大部分工资交还给创造者。

Guive Assadi39:39

property rights is like a conditional pause proposal that only kicks in uh if alignment if and only if alignment is hard.

产权就像一个有条件的暂停提案,只有当对齐很难时才生效。

Guive Assadi41:42

values are not like implemented in a separate value file that's independent of the content of the rest of the brain. Values will also drift.

价值并不是实现在一个独立于大脑其余内容的 value file 里。价值也会漂移。

Guive Assadi42:43

there's all kinds of stuff that's like incredibly impressive that Amazon does that the ice cream man does not do. Yep. But Amazon does not appropriate the ice cream man.

Amazon 做的各种事情令人难以置信,是冰淇淋小贩做不到的。但 Amazon 并没有征用冰淇淋小贩。

Guive Assadi1:19:12

数字与实体

战时共产主义时期工业产出降幅80%10:13
战时共产主义时期重工业产出降幅80%10:13
战时共产主义时期城市工资降幅约三分之二10:13
战时共产主义时期粮食收成降幅40%10:13
战时共产主义时期莫斯科与圣彼得堡人口降幅近60%11:13
杰斐逊方案中原住民改用现代农业后所需土地比例约 10%1:37:25
假设中单个 AI 进行任何形式没收的概率0.5%1:39:27
塔斯马尼亚与澳洲大陆陆桥断开时间12000 年前1:42:30
按 Guive 方案的风险估计5% 到 10%1:54:38
不按该方案的风险估计约翻倍1:54:38

术语

rentier食利者
靠持有资产收租生活、不参与生产的人。
racing to the precipice竞相冲向悬崖
指多家公司为抢先而竞相降低安全标准,风险由全社会承担。
Roko's basilisk罗科的蛇怪
一个思想实验:未来邪恶 AI 威胁不造它的人将受折磨。
Laplace's rule of succession拉普拉斯接续法则
用已发生次数估计下次概率的统计方法,常用于未知分布。

收听指南

谁该听

对 AI 治理、长期风险、产权制度设计感兴趣的研究者和投资人;想了解「给 AI 产权」这一非主流方案完整论证链的人。

可跳过

1:22:14–1:33:20 关于合并心智与罗科蛇怪的讨论,可跳过。