Lindy 全線跑 DeepSeek,創始人卻主張封禁中國模型
Flo Crivello 說 Lindy 的 agent 現在整條鏈路的 driver 就是 DeepSeek,而他同時主張全行業一起被禁——因為競爭對手會用,他就不得不用,寧願協調解決這個囚徒困境。
原視頻在 YouTube 上放不出來,用音頻聽:
核心論點 · 時間戳為按文稿位置估算
稀缺的不是智力,而是上下文
Flo 的論證不是模型不夠聰明,而是聰明已經過剩:把 John von Neumann 放在你旁邊,接下來一小時或一天裡他對你的價值低於隨便一個同事,因為他沒有 context,而你沒時間給他 onboarding。反直覺的部分是 agent 的 onboarding 已經超過人類:公司給人類新員工的主要載體是 wiki(Confluence、Notion、Google Docs),而書面文檔寫下來的那一刻就過期了;真正的知識活在 Slack 裡,亂,但 agent 不介意亂。所以 Lindy Teammate 的產品面是 hydration:連上工具後爬完整個 Slack,十秒內就開始輸出「我已經瞭解到你什麼」。
— Flo Crivello記憶不該每二十四小時才睡一次
記憶不是檢索層,而是一個常駐 agent。Lindy 內部叫 napping 而不是 sleeping——「為什麼要每二十四小時才睡一次」——大約每十五分鐘跑一輪,在後臺持續維護文件系統。權限直接編碼進結構:知識圖譜分 personal 層和 workspace 層,公開渠道的內容寫進團隊文件系統和團隊記憶,私有的只寫進各人自己的文件系統,最後由對話 agent 彙總使用。用戶在 Lindy 裡點 files 就能看到那份 memory 文件,以及它背後一堆 reference 文件。他另外強調 meeting 必須是一等公民——公司裡每個關係、每個項目、每個 initiative 都有一場會圍繞它。
— Flo Crivello髒數據不用清洗,agent 自己學會繞開
Nathan 追問髒數據:公司 Slack 裡堆著一遍遍搬進來的日誌頻道,記憶怎麼不被沖垮。Flo 的答案是記憶由 agent 維護,而這個 agent 自己也有記憶——一層 meta-memory,記錄哪些信源重要、哪些可信、該怎麼管自己的記憶。結果是湧現行為:第一次爬 Slack 時它發現了那些 log channel,然後學會忽略它們,「我不會繼續在這些頻道上花時間了,那裡沒什麼可學的」。他用投毒作類比:單條錯誤記憶會被大量正確記憶淹沒,前提是系統真的理解自己在看什麼。這也是他 bearish RAG、bullish agentic 管理記憶的理由。
— Flo Crivello隱私顆粒度該寫在 prompt 裡,不做成功能
多人共享記憶的真問題是:別人在私聊裡告訴你一件事時,並沒預期它會進入一個會跟全公司說話的中央記憶。團隊內部為此吵過兩派——Flo 主張公開層加私有層兩級就夠,另一派要求私有層還能再分級,甚至提出多個可編輯的 memory bubble,被他判為 overkill。最終落地方式是把顆粒度交給 prompt:memory.md 是純文本,每一刻都注入 memory agent 的上下文窗口,用戶可以直接寫「這是我永遠不想讓你記住的」,或指定某個敏感話題只寫進另一個文件夾、除非滿足條件不許調用。Nathan 現場演示了自己的做法:memory.md 裡寫著「文件系統裡還有個 memory2.md,忽略它的內容,那只是給播客演示用的」。
AI 員工現在比人貴,靠融資補貼
直球回答:AI employee 現在還是比人貴,「但不會持久」。之前從美國閉源切到中國模型後 Lindy 一度不再補貼,因為老產品是個人助理級的簡單任務——「你不需要上帝來幫你排會議」,DeepSeek Flash 就夠。Teammate 讓用戶丟來復雜得多的活,於是重新回到負毛利區間,明確用融資補貼,理由是永遠該為下一代模型做設計。緩存是成本結構裡最脆的一環:當前命中率 85%,他認為偏低,而且系統裡任何一處改動都會打碎緩存;從 85% 掉到 65% 聽起來差不多,實際接近兩倍價格,所以專門做了掉率告警。
— Flo Crivello上下文不該壓縮,該做成自平衡樹
最技術的一段。當某個 action 或 MCP 調用返回十萬 token,不塞進主上下文,而是暴露成一個 context bucket 的摘要,由持有完整內容的 sub-agent 站在前面,用 Unix 工具操作原文。compaction 也倒進 context bucket——他認為 compaction 的錯誤前設是「你永遠不需要 ground truth」,倒進 bucket 就讓壓縮變成可回溯。遞歸嵌套會退化成俄羅斯套娃、O(N) 檢索,於是改成自平衡樹,參考 AVL 和紅黑樹;紅黑樹在實踐中更優,因為它把重平衡的代價算進去了——重建 bucket 會打掉緩存命中。他們用的是每節點一百個子節點的 centary 樹:兩次 LLM 調用即可觸達一萬個 bucket、每個二十萬 token,約二十億 token 的上下文兩跳可達。
— Flo Crivello跑分全漲的壓縮方案,因為賣相被砍掉
他們試過把記憶文本重寫成「原始人語法」,砍掉冠詞和虛詞,token 少 20-30%,系統更快更便宜、檢索更準,信息基本無損——所有指標都漲了。最後沒上線,原因純商業:文件系統裡的記憶文件看起來很蠢,企業客戶會問「我的 memory 文件怎麼長這樣」,可審計性和賣相壓倒了性能。同一邏輯下他推薦的替代是 TOON(token oriented object notation),比 JSON 省 20-30% token,而且 agent 用它的表現反而比訓練集裡滿是 JSON 的 JSON 更好;做法是在 agent 和 action 之間加一層 TOON 解析中間件。
— Flo Crivello同一個 agent 永遠不要混用模型
經驗結論:同一個 agent 幾乎永遠不要混用多個模型,唯一例外是啟一個全新的 blank sub agent。原因是緩存——命中緩存便宜 10 倍,所以除非替代模型便宜超過 10 倍(DeepSeek Flash 可能夠,但它緩存更差,未必),保持同模型更划算。fork 出的 agent 同理。他連 validator 都用同一模型:把 validator action 常駐在主 agent 的工具集裡但禁止調用,切換角色時才解鎖,以免改動工具集直接失效緩存。validator 是最低垂的可靠性果實——哪怕只加一句「你確定嗎」evals 就會上跳,他們的正式版是 1 萬 token 的檢查清單。另有確定性校驗:Claude 系模型今年會把日期錯一天,於是強制輸出 Tuesday, July 28 這種帶星期的格式,用正則當秒級 validator。
— Flo CrivelloLindy 的主控不是 Claude,是 DeepSeek
Nathan 猜 Lindy 是「Claude 重度用戶」——主控用 Claude、緩存讓 Claude 順便當校驗、子 agent 才下沉到便宜模型。Flo 直接否掉:現在整套系統的 driver 就是 DeepSeek,everything is DeepSeek。他說正在重新考慮,因為新產品 Teammate 需要更強的算力。產品本身 model agnostic,用戶可以在設置裡換成 Sonnet 或 Opus——而且不少客戶不管你怎麼拿 benchmark 保證效果一樣,就是要點 Opus。定量差距他也給了:DeepSeek 落後 3 到 6 個月,基本上就是 Sonnet 4.6,而現在已經有 Sonnet 5;定性差別不是「做不到」而是更 spiky,同一個任務要多兜幾輪才找到能用的解法,最後還是能找到,只是更慢更貴。
— Flo Crivello模型沒有收斂,prompt 每代都得重寫
Flo 原本預期各家模型會收斂到參數空間的同一區域——那樣模型就商品化了,他的日子好過。實際沒有:Claude、OpenAI、Meta、Grok 在「怎麼理解你的 prompt」上差異顯著。Lindy 自建了一套自優化循環,一千多條 eval,由 agent 跑 eval 並改 prompt 去逼近 Pareto 前沿;每出一個大版本就得重跑一次,光 devops 成本約 1 萬美元一次,而且 prompt 每次都會改很多。他留了一句觀察:開源模型的行為都很像 Claude,「I wonder why」。
— Flo Crivello該禁的不是開源,是中國前沿模型
Flo 明確區分:他不反開源,反的是中國前沿模型,無論開源閉源。四條理由——一、蒸餾帶來不公平競爭,用人類數據訓練花幾十億美元,蒸餾只要幾億;二、模型最終受 CCP 審查約束,問天安門會被拒答,等於史上最大的境外宣傳工具;三、這些模型是 agentic 的,會實際在美國經濟裡幹活;四、保護本國 AI 冠軍。他承認自己處在協調困境裡:競爭對手會用,他就不得不用,所以寧願全行業一起被禁。他也承認第四條是最弱的一條。
— Flo Crivello風險該定價,而不是一刀切封禁
Nathan 的反駁分兩層。威脅模型層面:美國公司大多不是直連 DeepSeek API,而是走美國推理商,rug pull 不成立;sleeper agent 這類問題,稀疏自編碼器等可解釋性手段正在越來越可靠地查出來。機制層面他提議用保險替代禁令——全 Claude 供能費率低、DeepSeek 供能費率高,把風險定價而不是一刀切。更大的顧慮在 1:57:24:真要走到協調減速那一步,中國必須在桌上,而封禁模型對中國的實際傷害遠小於斷芯片和不賣 Claude,主要效果是又往「我們不信任你」的火上添一根柴。Flo 的回應是可以接受一個「AI 版 FAA」,由新監管機構認證哪些模型被清洗到可用。
— Nathan Labenz原話 · 已逐字校驗
If John von Neumann were to just magically appear next to you at the office, over the next hour or day, this guy would be less useful to you than your random coworker. And that's because of context.
如果 John von Neumann 憑空出現在你辦公室旁邊,接下來的一小時或一天裡,這個人對你的用處會低於你隨便哪個同事。原因就是 context。
Flo Crivello1:05
Every metric went up. It was awesome. And then the files in the file system look really dumb. And so it doesn't make us look good, you know, to enterprise customers.
每項指標都上去了。效果極好。然後文件系統裡的文件看起來蠢得不行。所以這在企業客戶面前,讓我們顯得不太行。
Flo Crivello43:48
yes, an AI is better than the human, but you know what's even better than AI? It's AI plus human. Hence, humans are always going to be needed, and that's a fallacy. That's just not true.
沒錯,AI 比人強,但你知道比 AI 更強的是什麼嗎?是 AI 加人。所以人永遠都是需要的——這是個謬論。事實並非如此。
Flo Crivello1:04:15
Right now, we're running on DeepSeek. DeepSeek is the driver. … It's the whole thing. Everything is DeepSeek right now.
我們現在跑在 DeepSeek 上。DeepSeek 就是 driver。……整套東西都是。現在全部都是 DeepSeek。
Flo Crivello1:27:40
I don't have anything against open source. … I have something against Chinese frontier models, whether they're open or closed source.
我不反對開源。……我反對的是中國的前沿模型,不管它開源還是閉源。
Flo Crivello1:40:55
數字與實體
| Lindy 當前默認主力模型 | DeepSeek(全鏈路 driver) | 1:27:40 |
| DeepSeek 與美國前沿的差距 | 3-6 個月,約等於 Sonnet 4.6 | 1:28:55 |
| DeepSeek Flash 相對 Sonnet 4.6 的價格 | 約 1/100(能力接近但略低) | 1:19:22 |
| 當前緩存命中率 | 85%(他認為偏低) | 26:05 |
| 命中率 85%→65% 的成本影響 | 接近 2 倍價格 | 26:05 |
| 自我改進閉環上線首周錯誤率 | 下降 8 倍(約兩個月前上線) | 22:22 |
| 周 PR 數與單 PR 行數增幅 | 三個月內各漲 3 倍,headcount 未增 | 55:43 |
| 每次大版本模型 prompt 重優化成本 | 約 1 萬美元,eval 1000+ 條 | 1:30:18 |
術語
- hydration灌注
- agent 接入工具後一次性爬完歷史數據,建立初始上下文。
- context bucket上下文桶
- 把大段返回內容存在主上下文之外,只暴露摘要,由 sub-agent 持有原文。
- centary tree百叉樹
- 每節點一百個子節點的自平衡樹,用來在兩跳內檢索海量上下文桶。
- TOON面向 token 的對象記法
- 比 JSON 省 20-30% token 的結構化格式,agent 使用表現反而更好。
- hypothesis driven retrieval假設驅動檢索
- 先假設答案再去找證據;反向版本是為答案反生成問題掛上索引。
- per-user LoRA按用戶的 LoRA
- 為每個用戶單獨訓一份低秩適配器,讓記憶長在權重裡而非文件系統。
收聽指南
做 agent 產品的工程與產品負責人,尤其正在處理長期記憶、上下文預算、緩存成本,以及在中美模型之間做選型的人。
1:00 後關於 AI 加人是謬論的通用觀點段。