Agent安全不是靠堵沙箱漏洞,而是把大腦和手分開放
Anthropic把執行代理架構拆成常駐服務器上的「大腦」和隨時可銷燬的沙箱「手」,憑證只存在出口網關,agent從未真正碰到過它們,這是意外但最關鍵的安全收益。
原視頻在 YouTube 上放不出來,用音頻聽:
核心論點 · 點時間戳可跳到原聲
人效一年漲了將近五倍
過去一年Anthropic的12個月收入/員工從140萬美元漲到660萬美元,同時從Q2每1美元收入要倒貼0.5美元,變成每1美元成本能賺2美元,本季度GAAP利潤率19%,一年前是-129%。S1裡把原因歸為兩個互相咬合的循環:更好的Claude帶來更多用例和反饋,迭代出更強的Claude;收入增長帶來更大投資,投資又餵養更強模型。
API 防蒸餾是場拉鋸戰
一篇公開論文證明可以從API裡竊取推理鏈來蒸餾模型,促使團隊加固了「保留思考塊」「前綴鎖定思考」等機制。團隊強調這不是商業問題——蒸餾出去的模型如果繞開了安全分類器,才是他們真正擔心的safety問題。為了不傷到正常用戶,他們提前聯繫開源harness維護者和大客戶,專門為被打斷的壓縮策略單獨做了新的壓縮功能替代。
一次事故逼出了一鍵斷供的基礎設施
每次發布模型都要單獨定數據留存與審核政策——Opus 5.5就沒有Fable那樣的強留存要求。團隊還搭了一套「信任憑證」系統,把「誰被授權用某個模型/項目」一路透傳到系統底層。這套通用授權設施最初是Fable被緊急下線那次事故後,為了「萬一還需要對所有人一鍵斷供某個模型」而做的對沖投入,事後發現比預想中用得頻繁得多。
CPU 跟 GPU 一樣稀缺
多數人只盯著加速器層的算力緊張,但Anthropic發現CPU同樣是瓶頸——產品服務、API、沙箱、CI全都在搶同一塊CPU預算,而且跟訓練用的沙箱算力是同一個零和遊戲,靠雲廠商談下來的配額要在內部手動分配給所有業務線。過去可以按需在線擴容的CPU,現在也必須提前做容量規劃。
零 Rust 經驗的團隊把 API 整體搬家
團隊沒有一個Rust工程師,卻決定把整個Messages API從Python單體一次性port成Rust,而不是按部件分批遷移——因為具體代碼由Claude來寫,人只負責設計分布式系統架構、以及用影子流量驗證新舊系統輸出是否一致。結果CPU節省40%-50%,首token延遲改善10%-20%,團隊因此多出了帶寬去做更激進的、面向用戶的架構改造。
大腦和手分開,安全是意外收穫
Claude Managed Agent把常駐的harness(大腦)和隨時可銷燬的沙箱執行環境(手)分開,最初目的只是延遲和可靠性——沙箱掛了agent不會跟著死。唯獨一位產品經理從一開始就堅持「這個架構最重要的屬性其實是安全」,當時沒人真信,團隊成員後來說專門去跟這個人道歉。真正的安全收益是憑證從不進入agent可見的空間,只有出口代理在真正調用時才注入真實憑證。
減速發布和繼續發新模型並不矛盾
發布會提到的「pacing」不等於不發新模型——Opus 5.5在上一代發布11天后就上線,只是因為它通過了架構安全、在線防護、離線分類三道關。但在線安全分類器製造了新的路由難題:一個普通用戶只是問生物作業,對話裡提到一次安全相關話題就可能被整段判定觸發、降級到弱模型回答,而分類器本身沒聰明到能把誤判和真正的惡意區分開。
多智能體只需守住兩條原則
對於多agent架構,建議只需滿足兩點:子agent之間共享統一上下文,並且彼此異步、不互相阻塞。滿足這兩條之後應該放手讓Claude自己設計分工——他們預期未來Claude會自己學會拆分、克隆、調整協作架構,人只需要守住這兩條約束,其餘交給模型去試,可能會一次性解決過去覺得棘手的問題。
原話 · 已逐字校驗
the entire point of why Anthropic exists is 'cause we want AI to create positive outcomes in the world safely, and we run a lot of safeguards classifiers on the tokens that we're producing in order to make sure that they're safe.
Anthropic存在的全部意義就是希望AI能安全地為世界創造正向結果,我們在自己產出的token上跑了大量安全分類器,確保它們是安全的。
it's, like, a very common thing in platform engineering that you, like, uh, you have one incident and then you, like, overprepare for that incident, and then the incident never happens again.
這在平臺工程裡很常見:出過一次事故,然後你會為那次事故過度準備,結果這種事故再也沒發生過。
We were like, "We're gonna hit a CPU wall. There's stuff we need to do." And, and we've done it, right? Like, we've gone multi-region. We've done all these things we need to do.
我們當時說:「我們要撞上CPU的牆了,有些事必須去做。」然後我們真做了——上了多區域部署,該做的都做了。
we have the brain separate from the hands, and what that means is, like, the harness runs on a durable server, really ours, right?
我們把大腦和手分開——harness跑在一臺持久化的服務器上,是我們自己持有的。
the agent is never, like, in the same place where the credentials are, right? Because in the old world of, like, just boot the agent in a box and, like, let it run, you had to send credentials in there, and then you're, like, doing some sort of, like, ah, how do we, like, scrub this and that and make sure that, like, the agent can't take that credential and go do something that it shouldn't be doing.
agent和憑證從來不在同一個地方。以前的做法是把agent丟進一個盒子裡讓它跑,你得把憑證也塞進去,然後還得想辦法清洗、確保agent不會拿著憑證去做不該做的事。
To, to, to me, this is, like, a, a, a close cousin of the general model routing problem of do you want a smart router or a dumb router? Does that make sense?
對我來說,這其實是模型路由問題的近親:你想要一個聰明的路由器,還是一個笨路由器?
You just need to make sure it can like parallel process, so it needs to share state, and it needs to like not block its sub-agents.
你只需要確保它能並行處理——它需要共享狀態,而且不能阻塞自己的子agent。
數字與實體
| 12個月收入/員工 | 660萬美元(一年前140萬美元) | 1:01 |
| Anthropic IPO預期估值 | 2萬億美元,預計兩週後上市 | 0:00 |
| Rust重寫後CPU節省 | 40%-50% | 56:19 |
| Rust重寫後首token延遲改善 | 10%-20% | 56:19 |
術語
- distillation模型蒸餾
- 用大模型的輸出(尤其推理過程)訓練小模型,復刻其能力。
- trust grant信任憑證
- 記錄誰被授權訪問某模型或項目,貫穿系統底層的授權機制。
- Claude Managed AgentClaude 託管代理
- 開箱即用的agent API,內置harness,無需自建基礎設施。
- chain-of-thought extraction思維鏈提取
- 竊取模型推理過程的文本,用於蒸餾復刻其能力。
- brain/hands architecture大腦-手分離架構
- 常駐harness(大腦)與可隨時銷燬的沙箱執行環境(手)分離。
收聽指南
關心Anthropic商業模式、AI安全工程、agent沙箱架構的創業者、工程負責人和投資人,想了解IPO前夕這家公司真實的運營細節。
1:28-1:42關於讀書、Slack管理、DevRel團隊搭建的閒聊可跳過。