扎克伯格的雙標：青少年安全要監管，AI 安全靠市場
Meta 在青少年安全上主張政府統一監管，在 AI 安全上卻堅持市場自會解決——同一套囚徒困境，他站了兩邊。
原視頻在 YouTube 上放不出來，用音頻聽：
核心論點 · 點時間戳可跳到原聲
眼鏡不是手機，別混為一談
Nilay 反對科技業把 Meta Glasses 和手機歸為一類。用手機拍人，你得掏出來、打開相機、舉到對方臉上，這個身體動作本身就是一種意圖宣告，別人能反應。眼鏡戴著，按一下就開始錄，沒有這個宣告動作。他認為行業急著把被動監控設備塞進「智能手機」這個心智框架，是為了迴避一個更麻煩的問題：這類設備該不該有全新的社交禮儀。而且手機錄像的社交規則也不是天然就有的，社會為它吵過很多年，至今沒吵完。
— Nilay Patel自己都降權了，還說什麼好
Nilay 指出一個 Meta 自己承認的事實：Meta Glasses 被用來騷擾零售店員和女性，Meta 已經在 Instagram 上給這類視頻降權，減少製作激勵。他的追問很直接——如果你知道用這副眼鏡做出來的內容爛到需要在自己平臺上降權，那這副眼鏡到底好在哪，值得反覆為它吵這些架？他還說，扎克伯格講「一開始溝通得很清楚」，但真正該問的是：清楚的是什麼？是用戶的隱私，還是被拍那個人的隱私？
— Nilay Patel用戶定義產品，不是公司
Nilay 給出一條他稱為「所有主流消費科技的底層真相」的判斷：用戶定義產品。你賣出幾百萬臺設備，人們就會用你完全沒想到的方式去用，而這些湧現出來的行為往往定義了下一代產品。他舉 Twitter 為例——hashtag、@回覆這些功能都不是 Twitter 發明的，是用戶先發明、Twitter 後來採納的。所以 Meta 再怎麼解釋那盞燈是什麼意思，都攔不住人們怎麼用。真正該問的是 Meta 對用眼鏡騷擾人的壞人有多少控制力，以及別的平臺會不會跟進降權。
— Nilay Patel使用率高不等於沒傷害
扎克伯格說「人們用得這麼多，說明他們喜歡這個產品」，Nilay 直接打斷。他指出社交媒體訴訟的核心指控是產品成癮，而人們把社交媒體比作大煙草，恰恰是因為抽菸很爽、大家享受、但它同時在殺人——使用率跟有沒有造成傷害根本是兩回事。所以從第一句起他就想追問：只用使用率，真的能衡量一個東西對世界、對單個用戶是好是壞嗎？
— Nilay Patel透明反被罰，該由監管解
Nilay 承認 Meta 在青少年安全上確實做了領先的工作，也承認一個真實的不公：Meta 公布安全數字、公布研究、做透明度報告，結果因為披露了平臺上發生的壞事而被罰；而 Apple 這種在加密的 iCloud 上根本不知道發生了什麼、也不公布數字的公司，反而沒事。但他指出，這個負反饋循環恰恰是政府監管該解決的——如果所有社交平臺都被要求披露青少年安全指標，Meta 就會被拿來和同行比，而不是因為「信息存在」本身被罰。這個思路沒有出現在和解協議裡。
— Nilay Patel青少年安全要管，AI 安全不管
扎克伯格把青少年安全描述成囚徒困境：Meta 單方面限制青少年每天用一小時，用戶跑去 TikTok，誰都沒變安全，只傷了自己。Nilay 說這很能說明問題——扎克伯格不相信存在「安全市場」，他認為必須由政府強制所有人一起繳械。但到了 AI 安全，他站到了囚徒困境的另一邊：他在 Threads 和 X 上發帖說市場會自己解決，信任和對齊會變成區分 agent 和模型的最重要能力，不重視對齊的實驗室會落後，模型造成傷害會有重大責任。Nilay 的問題就是：為什麼青少年安全要政府出手，AI 安全就適合單幹？
— Nilay Patel一萬億 liability 還不夠
Nilay 引用 Casey Newton 的觀察：在最近的青少年安全案裡，Meta 自己估算的潛在損害賠償責任是一萬億美元，而這筆錢看來還不足以讓 Meta 單方面採取行動防止青少年受害。他的追問是：如果一萬億美元的潛在責任都不夠，那多少錢才夠讓 Meta 認真對待 AI 安全？有沒有哪個責任數字能讓所有人同時停下來？
— Nilay PatelMuse 想做下一個蘋果稅
扎克伯格說 Muse 的商業模式是「從交易裡抽很小一筆」，甚至不一定向付錢那一方抽。Nilay 說這就是聚合理論：Meta 握住全部消費者需求，大到商家願意付小費來接觸這些客戶。但問題在於，聚合器下游的商家恨聚合器——扎克伯格比誰都清楚，因為 Meta 自己就在蘋果 App Store 的下游：想觸達 iPhone 用戶就得走 App Store，接受一堆隱私規則，為大部分交易付 30%。Apple 的 App Tracking Transparency 幾乎打死了 Meta 的廣告業務，在手機上給 Instagram 帖子投流也得給 Apple 30%。所以 Nilay 的問題是：你怎麼讓下游商家對你這套安排感覺良好，而你自己當年感覺非常不好？
— Nilay Patel原話 · 已逐字校驗
if you want to record someone with your phone, you have to take it out of your pocket, open the camera app, and literally hold it in their face. This is a physical action that is meaningfully different than having a pair of glasses on your face with a light and just passively recording someone.
如果你想用手機拍別人，你得把它從口袋裡掏出來、打開相機應用、舉到對方臉上。這個身體動作，和戴著一副帶燈的眼鏡被動錄別人，有本質區別。
Nilay Patel3:05
if you know some of the content that is being made with these glasses is so bad that you've downranked it on your own distribution platform, what is so good about these glasses that make it worth having these debates over and over again?
如果你知道用這副眼鏡做出來的某些內容爛到需要你在自己的分發平臺上降權，那這副眼鏡到底好在哪，值得反覆為它吵這些架？
Nilay Patel5:09
The users define the product. If you sell millions of gadgets to people, they will use them in ways you never expected.
用戶定義產品。你賣給人們幾百萬臺設備，他們就會用你完全沒想到的方式去用。
Nilay Patel6:10
The reason people keep comparing social media to big tobacco is that smoking is fun, and people enjoyed it, and it was killing them. And so the usage rates had nothing to do with the harm that might have been occurring.
人們一直把社交媒體比作大煙草，是因為抽菸很爽、大家享受，而它在殺人。所以使用率和可能正在發生的傷害毫無關係。
Nilay Patel11:19
It is very telling to me that Mark doesn't think there's a market for safety. That instead he thinks that everyone must be forced to unilaterally disarm by the government in a regulatory framework that solves his prisoner's dilemma.
對我來說很說明問題的是，馬克不認為存在「安全市場」。他認為必須由政府通過監管框架強制所有人單方面繳械，來解開他的囚徒困境。
Nilay Patel14:24
Meta estimated its own liability at a trillion dollars in damages, which does not appear to be enough liability for Meta to take unilateral action to prevent teens from being harmed on its platforms?
Meta 自己估算的損害賠償責任是一萬億美元，而這筆責任看來還不足以讓 Meta 單方面採取行動，防止青少年在自己的平臺上受害？
Nilay Patel16:27
How will you make it so all of the businesses downstream of your huge aggregator AI agent feel good about this arrangement? Because when you've been in this arrangement, you have felt very, very bad.
你要怎麼做，才能讓你那個巨大聚合器 AI agent 下游的所有商家對這套安排感覺良好？因為你自己身處這套安排時，感覺非常、非常糟。
Nilay Patel21:45
數字與實體
| Meta 在青少年安全案中自估的損害賠償責任 | 一萬億美元 | 16:27 |
| Apple App Store 對 iPhone 上大部分交易的抽成 | 30% | 21:45 |
| Muse 免費額度 | 每週 1 億 token | 25:05 |
術語
- aggregation theory聚合理論
- 誰掌握消費者需求，誰就能向想觸達這些消費者的商家收費。
- App Tracking Transparency應用跟蹤透明度
- Apple 的隱私規則變更，要求 App 獲用戶許可才能跨應用追蹤，重創 Meta 廣告。
- prisoner's dilemma囚徒困境
- 各方單獨行動都不划算，只有被強制一起行動才能達成對集體更好的結果。
收聽指南
關注平臺監管、AI 安全政策與 Meta 戰略的創業者、投資人和政策觀察者，尤其是想理解扎克伯格監管立場不一致的人。
開頭兩段廣告和中間插播的贊助內容可跳過。