世界太吵,来原声听播客

a16z

AI给你建一个「第二人格」,连创始人都看不到你的那份

First Person Labs把数据和推理拆开:本地或机密计算里跑模型,公司自己也证明不了能看到你的内容,信任靠硬件而不是承诺。

个人AI机密计算数据隐私AI AgentAI基础设施token成本

原视频在 YouTube 上放不出来,用音频听:

这期讲的是个人AI助理「Second」的系统架构和隐私设计,话题偏技术,前段产品介绍可以快进,中后段的机密计算和成本测算是真正的信息点。

核心论点 · 点时间戳可跳到原声

2:02

偏好秒级搬家,不用再给Agent解释一遍

Ken Liu举的例子是:机票座位偏好、提前到机场多久、坐不坐头等舱,这些以前每次换到新工具(比如从GrokBot换到Codex)都要重新解释。Second的做法是先在背景里持续建立一个人的偏好、关系、意图模型,用户换到任何Agent时,这个模型可以「秒级」同步过去,不需要多轮提问。Ken提到自己换用OpenAI新发布的Codex模型时,之前在Second里积累的工作上下文直接可用。

— Ken Liu
5:08

电脑早就知道你在干什么,只是没人分析

Ken Liu指出系统层面本来就有一条无限的事件流:切换的App、停留的网页、打字节奏、Wi-Fi连接状态,这些数据苹果、微软、Linux系统本身都已经暴露出来。First Person Labs做的是用24/7运行的Agent层层分析这条流,从单次打字推断「在发消息」,到跨App切换推断「在做研究」「在写文档」,逐层建立对一个人在做什么的理解。Ken的结论是人们严重低估了电脑本身已经知道多少。

— Ken Liu
7:11

真正的生产力不是回消息,是连点成线

Ken Liu把个人AI的产出分两层:「反应式」生产力只是对单个事件做反应,比如邮件一来就提醒你,这一层很容易做,甚至已经泛滥成灾;更难的是「反思式」生产力——跨越几个月、连接多个事件的理解,比如记住几个月前说过的目标,发现最近的行为正朝那个方向推进,再结合已知的偏好给出判断。他认为未来个人计算的方向不是让用户不断发问,而是系统主动判断什么时候该介入,「人们现在还得自己开口问,这其实是个问题——你不该一直主动去问一个超级智能」。

— Ken Liu
11:21

信任的根基是硬件,不是公司的承诺

Ken Liu把AI拆成数据和推理两件事:用户可以自带token,把自己的数据交给自己选的推理方来分析,完全不用信任First Person Labs。更进一步的方案是「机密推理」——把模型放进支持机密计算的GPU里,打开一个硬件开关后可以密码学证明「里面只跑了这个模型,没人能看进去」,信任对象从公司变成了英伟达的硬件。这和常见的「零数据留存」承诺完全不同:后者只是公司给出的policy层面的保证(甚至有法律效力),前者是可验证的技术事实。

— Ken Liu
14:23

数据可以完全留在本地,像密码库一样

Second提供两种存储方案:一种叫Second Local,数据只留在本机,只在用户选定的推理服务那一刻才出去,类似把密码库锁在本地不传Dropbox;另一种是云端备份,做法是沿用iCloud或密码管理器的思路——本地先加密再上传,解密只发生在用户主动操作时(短暂存在于内存里),或者整个存储环节都放在一个可以像机密推理一样被远程证明的容器内。两条路径拼起来,形成「本地加密→上云→只在可信容器内解密」的完整闭环。

— Ken Liu
18:25

24/7分析一个人,一天要烧多少钱

Ken Liu现场算了一笔账:假设一个Agent24小时跑,每秒60个token,因为要分析的东西太多所以同时跑10个这样的Agent,按Opus的定价算下来一天要花1000美元;如果换成DeepSeek Flash,同样的用量一天只要60美元。他认为这个成本会随着新模型不断替换而迅速下降——自First Person Labs创立以来,token价格已经跌了超过50%,这也是为什么Second现在更像是面向「忙碌的专业人士」这类愿意为深度个人上下文付费的人群,而非所有人。

— Ken Liu
20:26

截图加一句「fix」,省掉解释上下文的功夫

Ken Liu分享了开发场景里最意外的用法:因为Second对「我们在做什么」有超强记忆,用户不再需要向coding agent解释任何背景——截一张图,说一句「fix」,agent就知道要修什么。他还提到「上下文连续性」:在笔记本上浏览到一半关掉,换到手机上,同一个上下文能接着往下用,甚至可以在手机上继续写同一封邮件。

— Ken Liu
30:37

公司刻意把交互做窄,只留文本和API

面对「你既要做底层安全基础设施,又要做讨人喜欢的用户体验,这是不是精神分裂」的提问,Ken Liu承认团队曾经全力做交互、结果发现难度很高——要做出「令人愉悦的体验」里有太多细节要打磨。于是公司的决定是收窄自己暴露的接口:「只有文本,只有API,没有别的了」,把真正搭建个人化界面和应用的工作留给用户和开发者,自己先把底层这件「每个人迟早都要有一个Second」的事做扎实。

— Ken Liu

原话 · 已逐字校验

I think people are underestimating how much the computer already knows.

我觉得人们严重低估了电脑本身已经知道多少东西。

Ken Liu6:10

So we were planning an event yesterday. There was a 20% chance of weather. And in real time, it was continually updating the forecast for us to let us know if we needed to get a tent or not, which is just like incredibly powerful.

我们昨天在筹划一场活动,有20%的概率会下雨。它实时不断更新天气预报,提醒我们到底需不需要准备帐篷,这个功能太强大了。

Joel De La Garza6:10

Like people have to ask. You're not supposed to ask. It's a super intelligence.

现在的问题是人们还得自己开口问。可你本不该去问一个超级智能。

Ken Liu8:14

So if you don't trust, let's say, us, in principle, you should be able to bring your own tokens.

如果你不信任我们,原则上你应该能自带自己的token。

Ken Liu11:21

And when you turn it on, you can basically prove that there's only the model running inside. No one can see inside.

打开这个开关之后,你基本上可以证明里面只跑着这个模型,没有人能看到里面。

Ken Liu12:21

Let's say you have one agent or actually one agent running 24-7. And let's say at 60 tokens per second. And let's say you run 10 of those because there's so much to analyze. And at Opus 5i's pricing, that leads to $1,000 per day.

假设你有一个Agent,或者说一个24小时不停跑的Agent,每秒60个token,因为要分析的东西太多你跑了10个这样的,按Opus 5i的定价算下来一天要花1000美元。

Ken Liu18:25

There's only texting. There's only API and there's nothing else.

只有文本交互,只有API,别的什么都没有。

Ken Liu31:37

数字与实体

Opus模型24/7分析成本每天约1000美元18:25
DeepSeek Flash模型同等用量成本每天约60美元18:25
公司成立以来token价格下降幅度超过50%19:26

术语

confidential inference机密推理
在支持机密计算的GPU上运行模型,可密码学证明除模型外无人能看到数据
zero data retention零数据留存
服务商承诺不保留用户数据,属于政策层面的保证而非技术可验证
Second Local本地版Second
数据只留在用户本机,仅在推理时才发往用户自选的推理服务
reflective productivity反思式生产力
跨越较长时间连接多个事件、理解用户目标和优先级,而非单纯对单一事件做反应

收听指南

谁该听

关心个人数据如何安全接入AI Agent的工程师、投资人,尤其对机密计算架构和token成本经济感兴趣的人。

可跳过

开头和结尾的产品介绍、宣传式对话可以快进,实质信息集中在中段的架构和成本部分。