世界太吵,來原聲聽播客

a16z

AI給你建一個「第二人格」,連創始人都看不到你的那份

First Person Labs把數據和推理拆開:本地或機密計算裡跑模型,公司自己也證明不了能看到你的內容,信任靠硬件而不是承諾。

個人AI機密計算數據隱私AI AgentAI基礎設施token成本

原視頻在 YouTube 上放不出來,用音頻聽:

這期講的是個人AI助理「Second」的系統架構和隱私設計,話題偏技術,前段產品介紹可以快進,中後段的機密計算和成本測算是真正的信息點。

核心論點 · 點時間戳可跳到原聲

2:02

偏好秒級搬家,不用再給Agent解釋一遍

Ken Liu舉的例子是:機票座位偏好、提前到機場多久、坐不坐頭等艙,這些以前每次換到新工具(比如從GrokBot換到Codex)都要重新解釋。Second的做法是先在背景裡持續建立一個人的偏好、關係、意圖模型,用戶換到任何Agent時,這個模型可以「秒級」同步過去,不需要多輪提問。Ken提到自己換用OpenAI新發布的Codex模型時,之前在Second裡積累的工作上下文直接可用。

— Ken Liu
5:08

電腦早就知道你在幹什麼,只是沒人分析

Ken Liu指出系統層面本來就有一條無限的事件流:切換的App、停留的網頁、打字節奏、Wi-Fi連接狀態,這些數據蘋果、微軟、Linux系統本身都已經暴露出來。First Person Labs做的是用24/7運行的Agent層層分析這條流,從單次打字推斷「在發消息」,到跨App切換推斷「在做研究」「在寫文檔」,逐層建立對一個人在做什麼的理解。Ken的結論是人們嚴重低估了電腦本身已經知道多少。

— Ken Liu
7:11

真正的生產力不是回消息,是連點成線

Ken Liu把個人AI的產出分兩層:「反應式」生產力只是對單個事件做反應,比如郵件一來就提醒你,這一層很容易做,甚至已經氾濫成災;更難的是「反思式」生產力——跨越幾個月、連接多個事件的理解,比如記住幾個月前說過的目標,發現最近的行為正朝那個方向推進,再結合已知的偏好給出判斷。他認為未來個人計算的方向不是讓用戶不斷發問,而是系統主動判斷什麼時候該介入,「人們現在還得自己開口問,這其實是個問題——你不該一直主動去問一個超級智能」。

— Ken Liu
11:21

信任的根基是硬件,不是公司的承諾

Ken Liu把AI拆成數據和推理兩件事:用戶可以自帶token,把自己的數據交給自己選的推理方來分析,完全不用信任First Person Labs。更進一步的方案是「機密推理」——把模型放進支持機密計算的GPU裡,打開一個硬件開關後可以密碼學證明「裡面只跑了這個模型,沒人能看進去」,信任對象從公司變成了英偉達的硬件。這和常見的「零數據留存」承諾完全不同:後者只是公司給出的policy層面的保證(甚至有法律效力),前者是可驗證的技術事實。

— Ken Liu
14:23

數據可以完全留在本地,像密碼庫一樣

Second提供兩種存儲方案:一種叫Second Local,數據只留在本機,只在用戶選定的推理服務那一刻才出去,類似把密碼庫鎖在本地不傳Dropbox;另一種是雲端備份,做法是沿用iCloud或密碼管理器的思路——本地先加密再上傳,解密只發生在用戶主動操作時(短暫存在於內存裡),或者整個存儲環節都放在一個可以像機密推理一樣被遠程證明的容器內。兩條路徑拼起來,形成「本地加密→上雲→只在可信容器內解密」的完整閉環。

— Ken Liu
18:25

24/7分析一個人,一天要燒多少錢

Ken Liu現場算了一筆賬:假設一個Agent24小時跑,每秒60個token,因為要分析的東西太多所以同時跑10個這樣的Agent,按Opus的定價算下來一天要花1000美元;如果換成DeepSeek Flash,同樣的用量一天只要60美元。他認為這個成本會隨著新模型不斷替換而迅速下降——自First Person Labs創立以來,token價格已經跌了超過50%,這也是為什麼Second現在更像是面向「忙碌的專業人士」這類願意為深度個人上下文付費的人群,而非所有人。

— Ken Liu
20:26

截圖加一句「fix」,省掉解釋上下文的功夫

Ken Liu分享了開發場景裡最意外的用法:因為Second對「我們在做什麼」有超強記憶,用戶不再需要向coding agent解釋任何背景——截一張圖,說一句「fix」,agent就知道要修什麼。他還提到「上下文連續性」:在筆記本上瀏覽到一半關掉,換到手機上,同一個上下文能接著往下用,甚至可以在手機上繼續寫同一封郵件。

— Ken Liu
30:37

公司刻意把交互做窄,只留文本和API

面對「你既要做底層安全基礎設施,又要做討人喜歡的用戶體驗,這是不是精神分裂」的提問,Ken Liu承認團隊曾經全力做交互、結果發現難度很高——要做出「令人愉悅的體驗」裡有太多細節要打磨。於是公司的決定是收窄自己暴露的接口:「只有文本,只有API,沒有別的了」,把真正搭建個人化界面和應用的工作留給用戶和開發者,自己先把底層這件「每個人遲早都要有一個Second」的事做紮實。

— Ken Liu

原話 · 已逐字校驗

I think people are underestimating how much the computer already knows.

我覺得人們嚴重低估了電腦本身已經知道多少東西。

Ken Liu6:10

So we were planning an event yesterday. There was a 20% chance of weather. And in real time, it was continually updating the forecast for us to let us know if we needed to get a tent or not, which is just like incredibly powerful.

我們昨天在籌劃一場活動,有20%的概率會下雨。它實時不斷更新天氣預報,提醒我們到底需不需要準備帳篷,這個功能太強大了。

Joel De La Garza6:10

Like people have to ask. You're not supposed to ask. It's a super intelligence.

現在的問題是人們還得自己開口問。可你本不該去問一個超級智能。

Ken Liu8:14

So if you don't trust, let's say, us, in principle, you should be able to bring your own tokens.

如果你不信任我們,原則上你應該能自帶自己的token。

Ken Liu11:21

And when you turn it on, you can basically prove that there's only the model running inside. No one can see inside.

打開這個開關之後,你基本上可以證明裡面只跑著這個模型,沒有人能看到裡面。

Ken Liu12:21

Let's say you have one agent or actually one agent running 24-7. And let's say at 60 tokens per second. And let's say you run 10 of those because there's so much to analyze. And at Opus 5i's pricing, that leads to $1,000 per day.

假設你有一個Agent,或者說一個24小時不停跑的Agent,每秒60個token,因為要分析的東西太多你跑了10個這樣的,按Opus 5i的定價算下來一天要花1000美元。

Ken Liu18:25

There's only texting. There's only API and there's nothing else.

只有文本交互,只有API,別的什麼都沒有。

Ken Liu31:37

數字與實體

Opus模型24/7分析成本每天約1000美元18:25
DeepSeek Flash模型同等用量成本每天約60美元18:25
公司成立以來token價格下降幅度超過50%19:26

術語

confidential inference機密推理
在支持機密計算的GPU上運行模型,可密碼學證明除模型外無人能看到數據
zero data retention零數據留存
服務商承諾不保留用戶數據,屬於政策層面的保證而非技術可驗證
Second Local本地版Second
數據只留在用戶本機,僅在推理時才發往用戶自選的推理服務
reflective productivity反思式生產力
跨越較長時間連接多個事件、理解用戶目標和優先級,而非單純對單一事件做反應

收聽指南

誰該聽

關心個人數據如何安全接入AI Agent的工程師、投資人,尤其對機密計算架構和token成本經濟感興趣的人。

可跳過

開頭和結尾的產品介紹、宣傳式對話可以快進,實質信息集中在中段的架構和成本部分。