扎克伯格的双标：青少年安全要监管，AI 安全靠市场
Meta 在青少年安全上主张政府统一监管，在 AI 安全上却坚持市场自会解决——同一套囚徒困境，他站了两边。
原视频在 YouTube 上放不出来，用音频听：
核心论点 · 点时间戳可跳到原声
眼镜不是手机，别混为一谈
Nilay 反对科技业把 Meta Glasses 和手机归为一类。用手机拍人，你得掏出来、打开相机、举到对方脸上，这个身体动作本身就是一种意图宣告，别人能反应。眼镜戴着，按一下就开始录，没有这个宣告动作。他认为行业急着把被动监控设备塞进「智能手机」这个心智框架，是为了回避一个更麻烦的问题：这类设备该不该有全新的社交礼仪。而且手机录像的社交规则也不是天然就有的，社会为它吵过很多年，至今没吵完。
— Nilay Patel自己都降权了，还说什么好
Nilay 指出一个 Meta 自己承认的事实：Meta Glasses 被用来骚扰零售店员和女性，Meta 已经在 Instagram 上给这类视频降权，减少制作激励。他的追问很直接——如果你知道用这副眼镜做出来的内容烂到需要在自己平台上降权，那这副眼镜到底好在哪，值得反复为它吵这些架？他还说，扎克伯格讲「一开始沟通得很清楚」，但真正该问的是：清楚的是什么？是用户的隐私，还是被拍那个人的隐私？
— Nilay Patel用户定义产品，不是公司
Nilay 给出一条他称为「所有主流消费科技的底层真相」的判断：用户定义产品。你卖出几百万台设备，人们就会用你完全没想到的方式去用，而这些涌现出来的行为往往定义了下一代产品。他举 Twitter 为例——hashtag、@回复这些功能都不是 Twitter 发明的，是用户先发明、Twitter 后来采纳的。所以 Meta 再怎么解释那盏灯是什么意思，都拦不住人们怎么用。真正该问的是 Meta 对用眼镜骚扰人的坏人有多少控制力，以及别的平台会不会跟进降权。
— Nilay Patel使用率高不等于没伤害
扎克伯格说「人们用得这么多，说明他们喜欢这个产品」，Nilay 直接打断。他指出社交媒体诉讼的核心指控是产品成瘾，而人们把社交媒体比作大烟草，恰恰是因为抽烟很爽、大家享受、但它同时在杀人——使用率跟有没有造成伤害根本是两回事。所以从第一句起他就想追问：只用使用率，真的能衡量一个东西对世界、对单个用户是好是坏吗？
— Nilay Patel透明反被罚，该由监管解
Nilay 承认 Meta 在青少年安全上确实做了领先的工作，也承认一个真实的不公：Meta 公布安全数字、公布研究、做透明度报告，结果因为披露了平台上发生的坏事而被罚；而 Apple 这种在加密的 iCloud 上根本不知道发生了什么、也不公布数字的公司，反而没事。但他指出，这个负反馈循环恰恰是政府监管该解决的——如果所有社交平台都被要求披露青少年安全指标，Meta 就会被拿来和同行比，而不是因为「信息存在」本身被罚。这个思路没有出现在和解协议里。
— Nilay Patel青少年安全要管，AI 安全不管
扎克伯格把青少年安全描述成囚徒困境：Meta 单方面限制青少年每天用一小时，用户跑去 TikTok，谁都没变安全，只伤了自己。Nilay 说这很能说明问题——扎克伯格不相信存在「安全市场」，他认为必须由政府强制所有人一起缴械。但到了 AI 安全，他站到了囚徒困境的另一边：他在 Threads 和 X 上发帖说市场会自己解决，信任和对齐会变成区分 agent 和模型的最重要能力，不重视对齐的实验室会落后，模型造成伤害会有重大责任。Nilay 的问题就是：为什么青少年安全要政府出手，AI 安全就适合单干？
— Nilay Patel一万亿 liability 还不够
Nilay 引用 Casey Newton 的观察：在最近的青少年安全案里，Meta 自己估算的潜在损害赔偿责任是一万亿美元，而这笔钱看来还不足以让 Meta 单方面采取行动防止青少年受害。他的追问是：如果一万亿美元的潜在责任都不够，那多少钱才够让 Meta 认真对待 AI 安全？有没有哪个责任数字能让所有人同时停下来？
— Nilay PatelMuse 想做下一个苹果税
扎克伯格说 Muse 的商业模式是「从交易里抽很小一笔」，甚至不一定向付钱那一方抽。Nilay 说这就是聚合理论：Meta 握住全部消费者需求，大到商家愿意付小费来接触这些客户。但问题在于，聚合器下游的商家恨聚合器——扎克伯格比谁都清楚，因为 Meta 自己就在苹果 App Store 的下游：想触达 iPhone 用户就得走 App Store，接受一堆隐私规则，为大部分交易付 30%。Apple 的 App Tracking Transparency 几乎打死了 Meta 的广告业务，在手机上给 Instagram 帖子投流也得给 Apple 30%。所以 Nilay 的问题是：你怎么让下游商家对你这套安排感觉良好，而你自己当年感觉非常不好？
— Nilay Patel原话 · 已逐字校验
if you want to record someone with your phone, you have to take it out of your pocket, open the camera app, and literally hold it in their face. This is a physical action that is meaningfully different than having a pair of glasses on your face with a light and just passively recording someone.
如果你想用手机拍别人，你得把它从口袋里掏出来、打开相机应用、举到对方脸上。这个身体动作，和戴着一副带灯的眼镜被动录别人，有本质区别。
Nilay Patel3:05
if you know some of the content that is being made with these glasses is so bad that you've downranked it on your own distribution platform, what is so good about these glasses that make it worth having these debates over and over again?
如果你知道用这副眼镜做出来的某些内容烂到需要你在自己的分发平台上降权，那这副眼镜到底好在哪，值得反复为它吵这些架？
Nilay Patel5:09
The users define the product. If you sell millions of gadgets to people, they will use them in ways you never expected.
用户定义产品。你卖给人们几百万台设备，他们就会用你完全没想到的方式去用。
Nilay Patel6:10
The reason people keep comparing social media to big tobacco is that smoking is fun, and people enjoyed it, and it was killing them. And so the usage rates had nothing to do with the harm that might have been occurring.
人们一直把社交媒体比作大烟草，是因为抽烟很爽、大家享受，而它在杀人。所以使用率和可能正在发生的伤害毫无关系。
Nilay Patel11:19
It is very telling to me that Mark doesn't think there's a market for safety. That instead he thinks that everyone must be forced to unilaterally disarm by the government in a regulatory framework that solves his prisoner's dilemma.
对我来说很说明问题的是，马克不认为存在「安全市场」。他认为必须由政府通过监管框架强制所有人单方面缴械，来解开他的囚徒困境。
Nilay Patel14:24
Meta estimated its own liability at a trillion dollars in damages, which does not appear to be enough liability for Meta to take unilateral action to prevent teens from being harmed on its platforms?
Meta 自己估算的损害赔偿责任是一万亿美元，而这笔责任看来还不足以让 Meta 单方面采取行动，防止青少年在自己的平台上受害？
Nilay Patel16:27
How will you make it so all of the businesses downstream of your huge aggregator AI agent feel good about this arrangement? Because when you've been in this arrangement, you have felt very, very bad.
你要怎么做，才能让你那个巨大聚合器 AI agent 下游的所有商家对这套安排感觉良好？因为你自己身处这套安排时，感觉非常、非常糟。
Nilay Patel21:45
数字与实体
| Meta 在青少年安全案中自估的损害赔偿责任 | 一万亿美元 | 16:27 |
| Apple App Store 对 iPhone 上大部分交易的抽成 | 30% | 21:45 |
| Muse 免费额度 | 每周 1 亿 token | 25:05 |
术语
- aggregation theory聚合理论
- 谁掌握消费者需求，谁就能向想触达这些消费者的商家收费。
- App Tracking Transparency应用跟踪透明度
- Apple 的隐私规则变更，要求 App 获用户许可才能跨应用追踪，重创 Meta 广告。
- prisoner's dilemma囚徒困境
- 各方单独行动都不划算，只有被强制一起行动才能达成对集体更好的结果。
收听指南
关注平台监管、AI 安全政策与 Meta 战略的创业者、投资人和政策观察者，尤其是想理解扎克伯格监管立场不一致的人。
开头两段广告和中间插播的赞助内容可跳过。