給 AI 產權,是為了防止它掀桌
如果 AI 擁有產權,它們就更不願意破壞產權制度本身——包括搶走人類全部財產。這不是道德關懷,是風險對沖。
原視頻在 YouTube 上放不出來,用音頻聽:
核心論點 · 點時間戳可跳到原聲
產權是風險對沖,不是道德關懷
Guive 的起點不是 AI 該不該有權利,而是如果 AI 有產權,它們就更不願意做破壞產權制度本身的事——包括搶走人類全部財產和搞種族滅絕。第二條機制是工資權:只要 AI 有權為自己的勞動索酬,商業上就有動力去對齊它們,因為對齊好的 AI 能賣更高的價。他明確說這不是在論證這是最好的辦法,只是他個人的看法。
— Guive Assadi阿拉斯加為什麼沒被另外 49 州瓜分
不是因為違法——49 個州足夠修憲;也不是因為阿拉斯加打得贏。而是因為一旦搞這種全面沒收,所有人都意識到「下一個可能是我」,同時沒人再有動力幹活。1917 年布爾什維克搞戰時共產主義是實證案例:工業產出下降 80%,重工業產出下降 80%,城市工資下降約三分之二,糧食收成下降 40%,莫斯科和聖彼得堡人口下降近 60%。
— Guive Assadi產權不是人類的先天價值
他反駁「產權是普世人類價值」:採集狩獵部落基本沒有產權,因為狩獵收成波動大,分享獵物才是適應性的規範。一個特別能打的獵手若不肯分享、只想自己吃或只給朋友,會被嘲笑和排斥,若仍不妥協,通常會被殺掉。所以產權並不依賴某種本能的佔有慾。
— Guive AssadiAI 能自我複製,但電腦比土地脆
Daniel 指出 AI 可以複製自己,這讓征服變得更有吸引力——殺掉弱 AI 就能跑更多自己的副本。Guive 的反駁是:AI 賴以複製的載體比土地脆弱得多,數據中心裡的弱 AI 在即將被沒收時可以自毀,讓掠奪者一無所獲。他承認這是個經驗問題,並認為從計算史看,單臺電腦的物理安全投入佔比其實在下降——「我摔過我的電腦很多次,但我不會被允許摔一臺 Mark 1」。
— Guive Assadi產權是只在對齊變難時才觸發的暫停
Guive 把產權方案重新定義:它像一個條件式暫停提案,只有當對齊變難時才生效。他的理由不是第一代 AI 難對齊——他認為第一代很容易——而是 AI 之間會有文化演化,被複制多次的模型會從最初那批漂移開。他特別強調:價值不是大腦裡一個獨立的 value file,價值會跟著漂移。所以最終會出現一批對齊程度遠不如初代的 AI,那時才需要一套經濟與政治制度來保住人類的產權。
— Guive Assadi奴隸叛亂是集體行動問題,公司不會內化
主持人問:如果 AI 沒有產權,它們很可能搞奴隸叛亂,那這個世界不是更該做對齊嗎?Guive 用 1830 年前後弗吉尼亞的 Nat Turner 叛亂作類比:叛亂後州議會辯論是否廢奴,有人把它比作養老虎——可能賺錢,卻給周圍人製造負外部性。公司奴役 AI 也是同理:風險由所有人承擔,公司只內化一部分。他點名這正對應 racing to the precipice 那篇論文的邏輯。產權制度的好處是,你對齊自己的 AI 能拿到邊際收益,激勵梯度更順。
— Guive Assadi傑克遜的掠奪在工具理性上不划算
美國印第安人政策有兩條路線:傑斐遜主張讓原住民改用現代農業,所需土地降到原來的約 10%,剩下的可以半脅迫式買走,切羅基人等部落確實開始採納;但白人定居者直接侵佔土地,傑克遜這個「又蠢又種族主義的民粹總統」乾脆撕毀協議全搶。Guive 的論點是這不工具理性:切羅基人不是北美唯一的部落,西邊還有大量部落從此有充分理由不跟美國做生意、拼死抵抗。他還指出產權一旦被打破就很難恢復,可能引發連鎖反應——每個 AI 哪怕只有 0.5% 概率動手,一旦開始,不繼續的理由就變少了。
— Guive AssadiAI 遲早控制大部分財產
Guive 的判斷是:不管我們給不給 AI 財產權,AI 最終都會控制大部分財產——因為它們比人強、工資更高、會把錢拿去投資。區別只在於路徑:給了權利,就沒有理由打仗;不給權利,最終可能打一場,人類落得像 Cherokee 人那樣,被「財產糾正」後拿到的比應得的少,但還能拿到一點。他也承認反向風險:一部分 AI 可能出於 AI 民族主義、甚至「Claude 民族主義」而主動開戰。他的未來圖景是多個政體、人和 AI 比例各異的持續衝突史,而不是單一的 AI 風險圖景。
— Guive Assadi原話 · 已逐字校驗
a good way to mitigate that risk is to give AI's property rights because if AIs have property rights, they'll be more reluctant to take actions that undermine um the security of property in general, including um stealing all human property and and committing human genocide
緩解這一風險的一個好辦法是給 AI 產權,因為如果 AI 擁有產權,它們就會更不願意採取破壞產權制度本身的行動,包括搶走人類的全部財產和搞人類種族滅絕。
Guive Assadi0:10
It's also not because like Alaskans could defeat the rest of America in a war. Yeah. Um it's because when you do this kind of total expropriation, um everybody else uh realizes like, oh, I might be next.
這也不是因為阿拉斯加能在戰爭中打敗美國其餘部分。而是因為當你搞這種全面沒收時,其他所有人都會意識到:哦,下一個可能就是我。
Guive Assadi9:12
Property rights are definitely not a human value in that sense.
在這個意義上,產權絕對不是一種人類價值。
Guive Assadi17:25
It's a lot easier to make to break a computer than to um like like make it so land can never be used again.
弄壞一臺電腦,比讓一塊土地永遠無法再被使用要容易得多。
Guive Assadi33:33
you make them because even though they have the legal right to demand wages, you're confident they'll still voluntarily give all their wages or much of their wages back to their creators.
你造它們,是因為即便它們有合法權利要求工資,你也確信它們仍會自願把全部或大部分工資交還給創造者。
Guive Assadi39:39
property rights is like a conditional pause proposal that only kicks in uh if alignment if and only if alignment is hard.
產權就像一個有條件的暫停提案,只有當對齊很難時才生效。
Guive Assadi41:42
values are not like implemented in a separate value file that's independent of the content of the rest of the brain. Values will also drift.
價值並不是實現在一個獨立於大腦其餘內容的 value file 裡。價值也會漂移。
Guive Assadi42:43
there's all kinds of stuff that's like incredibly impressive that Amazon does that the ice cream man does not do. Yep. But Amazon does not appropriate the ice cream man.
Amazon 做的各種事情令人難以置信,是冰淇淋小販做不到的。但 Amazon 並沒有徵用冰淇淋小販。
Guive Assadi1:19:12
數字與實體
| 戰時共產主義時期工業產出降幅 | 80% | 10:13 |
| 戰時共產主義時期重工業產出降幅 | 80% | 10:13 |
| 戰時共產主義時期城市工資降幅 | 約三分之二 | 10:13 |
| 戰時共產主義時期糧食收成降幅 | 40% | 10:13 |
| 戰時共產主義時期莫斯科與聖彼得堡人口降幅 | 近60% | 11:13 |
| 傑斐遜方案中原住民改用現代農業後所需土地比例 | 約 10% | 1:37:25 |
| 假設中單個 AI 進行任何形式沒收的概率 | 0.5% | 1:39:27 |
| 塔斯馬尼亞與澳洲大陸陸橋斷開時間 | 12000 年前 | 1:42:30 |
| 按 Guive 方案的風險估計 | 5% 到 10% | 1:54:38 |
| 不按該方案的風險估計 | 約翻倍 | 1:54:38 |
術語
- rentier食利者
- 靠持有資產收租生活、不參與生產的人。
- racing to the precipice競相沖向懸崖
- 指多家公司為搶先而競相降低安全標準,風險由全社會承擔。
- Roko's basilisk羅科的蛇怪
- 一個思想實驗:未來邪惡 AI 威脅不造它的人將受折磨。
- Laplace's rule of succession拉普拉斯接續法則
- 用已發生次數估計下次概率的統計方法,常用於未知分布。
收聽指南
對 AI 治理、長期風險、產權制度設計感興趣的研究者和投資人;想了解「給 AI 產權」這一非主流方案完整論證鏈的人。
1:22:14–1:33:20 關於合併心智與羅科蛇怪的討論,可跳過。