智能體留下的對話記錄太私密，不能直接拿去訓練模型
智能體的運行軌跡裡藏著用戶的提示詞、病歷、文件內容，這些數據比傳統的手機照片更難公開收集，聯邦學習成了在不搬動數據的前提下改進智能體的自然選擇。
原視頻在 YouTube 上放不出來，用音頻聽：
核心論點 · 點時間戳可跳到原聲
聯邦學習的核心不是加密，是數據不搬家
Lorenzo 解釋聯邦學習的基本邏輯：大量有價值的數據散落在手機、筆記本等邊緣設備上，但出於隱私和合規原因無法集中收集，比如醫療記錄。聯邦學習的做法是把訓練流程本身搬到數據所在的地方去計算，而不是把數據搬到數據中心。這解決的是「既要滿足隱私監管，又要能從數據裡學到東西」的矛盾，是整個框架存在的理由。
— Lorenzo數據不出門不等於模型沒記住隱私
對於隱私如何真正被保護，Lorenzo 給出了明確的分層回答：第一層保證是數據物理上從未離開採集地，沒人能截獲或打開看；但第二層問題是訓練完的模型本身是否「記住」了不該記住的東西，這才是隱私真正可能破防的地方。差分隱私等技術提供的是統計意義上的保證，而且要視具體場景而定——有些場景很容易應用，有些場景根本用不了，不少行業最終會因為聯邦學習不划算而放棄它。
— Lorenzo隱私敏感應用該用開源模型做起點
面對閉源大模型和開源模型誰更值得信任的問題，Lorenzo 坦承大家對閉源模型的構造知之甚少，他本人傾向樂觀地相信各家都在努力維護隱私。但如果真要做一個隱私高度敏感的應用，他會選擇開源模型作為起點，因為可探測、可修復的手段多得多；閉源模型一旦出問題，幾乎沒法保證百分之百能修好。
— Lorenzo智能體的軌跡比單次對話私密得多
相比單一模型的問答，智能體系統的軌跡裡不僅包含模型輸出，還包含用戶的原始提示詞，以及 MCP server、RAG 系統等第三方組件為模型補充的上下文。這些軌跡對改進智能體極其有用，因為模型在長流程中常因拼寫錯誤、同詞異指、工具實現缺陷而出錯，需要足夠多的軌跡數據才能訓練得更好。但軌跡裡混雜著用戶諸如膝蓋不舒服該不該看醫生這類私人問題，這正是聯邦學習要介入的地方。
— Lorenzo智能體每多跑一步，就多暴露一層你自己
談到智能體與單模型的區別時，Lorenzo 指出關鍵在於智能體會「採取行動」——讀取、抓取、修改、刪除。每一步執行都發生在包含用戶部分自我的環境裡，比如筆記本信息、物理系統、攝像頭圖像。隨著長程運行的軌跡越跑越長，智能體掌握的關於用戶的信息量會持續累積，因為它需要吸收更多信息才能產出最終結果，這個過程像一棵樹，從主線分叉出子智能體調用，再壓縮回主線得到最終答案。
— Lorenzo模型越做越小，但企業越來越想自己攥著訓練數據
Lorenzo 觀察到一個趨勢：最強大的模型正變得越來越小、越來越便宜、越來越容易部署，但要讓模型在具體場景裡變得更好，需要深入分析失敗模式，而這只有在企業能完全掌控自己的軌跡數據時才能做到。很多企業部署模型後發現難以改進應用，根源就是沒有回看軌跡、理解模型在哪裡出錯的能力。他預測大企業會越來越傾向於自己掌控軌跡數據並自行改進模型，因為這些數據本身就是企業的核心 IP，而外部服務商往往不會完整披露模型得出答案所經過的步驟。
— Lorenzo機器人做手術，沒人知道它為什麼那樣下刀
Lorenzo 提到自己見過模型指揮機器人真實做手術，這讓他開始思考一個更深的問題：我們是否知道模型為什麼執行了那個特定步驟，能否確認模型在做出決策前確實評估過所有潛在選項。在手術這類高敏感應用裡，人們非常需要掌控具體工作流背後的動機和理由，這正是可解釋性（interpretability）這條研究路徑變得越來越重要的原因，而這同樣需要企業對模型擁有遠超標準訂閱服務所能提供的數據和分析掌控權。
— Lorenzo沒法模擬手術全過程，只能靠多家醫院拼數據
針對手術機器人這類場景，Lorenzo 指出由於目前沒有足夠好的方式去模擬真實世界（每個病人的血管、身體特徵都不同），唯一能擴大試驗量、加快模型改進速度的辦法就是從儘可能多的醫院、儘可能多的數據孤島中同時獲取更多真實數據。他強調以現有的數據採集流程和訓練方法而言，聯邦學習這類協作學習技術現在就能開箱即用地提供幫助，不需要等待新技術突破。
— Lorenzo原話 · 已逐字校驗
The first ingredient for protecting your privacy is the fact that your data never moves from where it's collected. So no one can intercept traffic or actually look at your data.
保護隱私的第一要素是，你的數據永遠不會離開它被採集的地方，所以沒有人能截獲流量或實際查看你的數據。
Lorenzo8:10
I would say that if I had to develop a privacy heavy application, I would prefer to use an open source model as a starting point, especially because I have more control over it.
我想說，如果讓我開發一個隱私高度敏感的應用，我更願意用開源模型作為起點，尤其是因為我對它有更多的控制權。
Lorenzo11:40
Sometimes I ask my agents about, you know what? I've been doing this thing and my knee now is not is not feeling good. Should I be contacting the doctor or not?
有時候我會問我的智能體，你知道嗎，我一直在做這件事，我的膝蓋現在感覺不太好，我是不是該聯繫醫生？
Lorenzo17:20
What's the difference between a single model and an agent is that the agents can take actions, right? Like, that's the definition of an agent, like the simplest definitions that you can get.
單一模型和智能體的區別在於，智能體可以採取行動，對吧？這就是智能體的定義，是你能得到的最簡單的定義。
Lorenzo19:50
The amount of usage that this model have, these models have, is is even bigger and bigger, right? So the scale of usage is increasing, the scale of the models is decreasing.
這些模型的使用量越來越大，對吧？所以使用規模在增加，模型規模卻在縮小。
Lorenzo32:30
Currently, the only way to increase the amount of improvements, like to increase pace of improvement for this model, is getting more and more data, and make sure that you can train on this data in order to improve the model.
目前，加快這類模型改進速度的唯一辦法，就是獲取越來越多的數據，並確保能在這些數據上進行訓練來改進模型。
Lorenzo39:40
Most cases, the best innovations come from, that's my personal opinion, come from two factors. One is the constraints.
大多數情況下，最好的創新來自——這是我個人的看法——來自兩個因素，其一是約束條件。
Lorenzo42:50
術語
- Federated Learning聯邦學習
- 讓訓練過程下沉到數據所在設備，數據本身不離開本地的分布式訓練方式
- differential privacy差分隱私
- 一種為訓練結果提供統計意義隱私保證的技術手段
- interpretability可解釋性
- 理解模型為何做出某個具體決策或步驟的研究方向
- trajectory軌跡
- 智能體從提示詞到最終輸出之間，包含所有工具調用和中間步驟的完整記錄
收聽指南
關注智能體數據隱私、企業數據治理，或考慮用聯邦學習訓練垂直場景模型（醫療、手術機器人等）的工程師和決策者
中段關於萬聖節派對用自建模型給服裝打分的個人軼事，可跳過不影響主線理解