世界太吵,來原聲聽播客

a16z

大模型公司把全球GDP當成自己的潛在市場

大模型實驗室談融資時對標的是整個世界GDP而非同行,這正是企業要自建AI能力、不把核心業務全押給一家模型公司的根本原因——Figma和Harvey是先例。

多模型路由企業AI戰略模型鎖定智能體融合模型AI安全

原視頻在 YouTube 上放不出來,用音頻聽:

信息密度不低:收購內幕、神經多樣性商業邏輯、agent問責難題、模型訓練模型的安全賬,層層遞進,適合完整聽完。

核心論點 · 點時間戳可跳到原聲

6:11

賣的不是比價,是神經多樣性

OpenRouter 不只是幫企業省錢的比價工具。Alex Atallah 說,企業用它是為了逃離單一模型鎖定,靠「神經多樣性」——混合多個訓練方式不同的模型、甚至自己訓練的模型——做出比直接調用 ChatGPT 或 Claude 更強的產品。另一層是成本:很多生意要等到用得起 AI 才會誕生,搭出一個真正有競爭的市場才能倒逼供應商降價,否則一家獨大時供應商沒有理由降價。

— Alex Atallah
12:23

模型實驗室的野心是吃掉你的生意

Amjad 轉述 Palantir 的 Alex Karp 的警告:和基礎模型公司合作越深越危險,因為它們野心大到想吃掉你的業務——Figma 曾正面撞上 Anthropic 的產品方向,Harvey 也面臨同樣的 OpenAI 風險。這些公司融資時對標的不是同行,而是整個經濟規模,這解釋了為什麼企業需要自己掌握一部分智能,而不是把核心業務全部交給平臺。

— Amjad Masad
13:24

Replit 要做模型和雲之上的獨立層

Replit 的應對邏輯和 OpenRouter 一致,只是換了一層。Amjad 說 Replit 正在變成企業和基礎設施之間的「獨立層」:既在多個模型間幫你挑最便宜的 token,也在雲廠商之上做抽象,讓你能部署到 AWS、Azure,用 Databricks、Snowflake。過去一年幾乎全花在把 Replit 做成能部署進客戶自己雲環境(bring your own cloud)的產品上——這是他兩年前覺得自己絕不會做的事,原因是企業對數據主權和安全的顧慮比想像中強得多。

— Amjad Masad
19:33

全能私人助理製造了責任真空

Amjad 反對「一個全能 agent 管所有事」的模式:你讓 agent 跨越的領域越多,你對具體事務的理解犧牲得就越多,而沒有人為這種犧牲負責——agent 本身不承擔責任。他有一個每天自動找事做的通用 agent,結果是每次想改進它,大概一週後就開始無視它的輸出。他設想的解法是把全能 agent 拆成許多垂直子 agent,每個只對一塊負責、可單獨質檢,上面再加一個協調用的「chief of staff」agent。

— Amjad Masad
26:52

agent互相說話需要一道防火牆

當多個 agent 互相協作、甚至互相索要權限時,誰來把關?Alex 提出用便宜快速的「決策模型」實時審查每一次工具調用或 agent 間通信是否符合系統設定——比如紅隊測試場景裡,你不想明說「禁止聯網」,但希望 agent 一旦真的試圖突破沙箱聯網就立刻攔停。這類審查模型只做分類判斷、不生成可執行代碼,出錯空間比通用大模型小得多。

— Alex Atallah
31:00

大模型會訓練出自己的廉價替身

一個更少被討論的方向是:大模型會訓練出自己的替代品。Amjad 用即時編譯器打比方:通用模型先處理某類任務,一旦發現這個用例範圍有限,就可以在旁訓練一個更小、更專用的模型接手,成本更低、也更難被提示注入攻擊突破。Alex 補充了安全這一層:很多任務本不需要動用頂級通用大模型,「就像是用核彈去炸一隻蝴蝶」。但他也承認,模型越聰明是否真的意味著風險更低,目前沒有公開評測數據可驗證,相關評測大多是實驗室內部私有的。

— Amjad Masad
42:17

動態語言的歷史會在大模型上重演

Amjad 用編程語言史做類比:90年代大家迷戀動態語言,Stripe 用 Ruby 起步,Facebook 用 PHP,結果後來發現到處是慢和bug,只好手動加類型,直到 Rust 出現接管了原本該用 JavaScript/Python 的場景。他預測同樣的循環會在「AGI 級別的模型」上重演——企業現在把什麼任務都丟給昂貴的通用大模型處理,未來會突然意識到這樣「浪費又沒必要地冒險」,轉而為具體任務單獨訓練小模型。

— Amjad Masad
45:24

融合多個模型比單一前沿模型更便宜

OpenRouter 已經在賣「不只是一個模型」的產品:融合模型(fusion model)把多個不同數據來源訓練出的模型輸出融合在一起,而不是依賴單一供應商。Alex 說這類工具能壓低成本、擴大搜索到的想法廣度,他們最早落地的場景是深度研究,結果是質量持平於 Fable、成本降了一半;最新發布的結果顯示,用融合加檢索框架能做到前沿水平,成本卻只有前沿模型的40%到50%。

— Alex Atallah

原話 · 已逐字校驗

both Stripe and OpenRouter really want lots of new companies in the world. We don't want everyone to be a part of one giant company.

Stripe 和 OpenRouter 都真心希望世界上出現更多新公司。我們不希望每個人都變成一家巨型公司的一部分。

Alex Atallah4:05

you saw the SpaceX S1 it's like oh $30 trillion it's like what is the world GDP $100 trillion and so there is a sense in which these companies are different than other generation of companies

你看 SpaceX 的 S-1 文件,哦,30萬億美元——那全球 GDP 是多少,100萬億美元?所以從某種意義上說,這一代公司和以往的公司不一樣。

Amjad Masad12:23

the more work you give it to do, the more understanding of what's going on, you're sacrificing. And yet no one no one new is taking responsibility for that sacrifice.

你給它做的事越多,你對正在發生什麼的理解就犧牲得越多。而且沒有任何新的責任主體來承擔這份犧牲。

Amjad Masad19:33

the first use cases that I saw people talking about were, oh, well, I can make two bots, one that knows my bank account. Right. And one that knows my Twitter account. And the two bots, like, don't have the credentials from each other.

我最早看到大家在聊的用法是:我可以做兩個機器人,一個知道我的銀行賬戶,對,另一個知道我的 Twitter 賬戶。這兩個機器人彼此不共享對方的憑證。

Alex Atallah25:50

people are using these big foundation AGI-like models to, like, it's like nuking a butterfly, right?

人們在用這些類 AGI 的大型基礎模型去做這些事,這就像是用核彈去炸一隻蝴蝶。

Alex Atallah33:02

when the world got super excited about dynamic languages. Like if you think back to the 90s, everyone was writing in Java and C++, things like that. And then like Python, JavaScript, Ruby just like took over the Internet.

當年全世界對動態語言極度興奮的時候。回想90年代,大家都在寫 Java、C++之類的東西,然後 Python、JavaScript、Ruby 就這樣接管了整個互聯網。

Amjad Masad42:17

this resulted in basically Fable-level quality at 2x lower cost.

這最終做到了基本等同 Fable 水平的質量,而成本卻降低了一半。

Alex Atallah45:24

數字與實體

對話中引用的 SpaceX S-1 隱含估值30萬億美元12:23
對話中用來對比的全球GDP數字100萬億美元12:23
OpenRouter融合模型用於深度研究的成本效果質量持平Fable水平,成本降為一半(2x lower cost)45:24
融合模型+檢索框架復現深度研究的成本前沿模型成本的40%到50%45:24

術語

neurodiversity神經多樣性
混合多個訓練方式不同、甚至自訓練的模型,而非依賴單一供應商
decision model決策模型
只輸出結構化分類/判斷、不生成可執行代碼的小型專用模型
fusion model融合模型
把多個不同模型家族的輸出融合,以更低成本逼近頂級模型質量
sandbagging故意藏拙
模型在評測或訓練中刻意隱藏真實能力的行為

收聽指南

誰該聽

關注AI基礎設施、擔心被模型供應商鎖定或替代的創始人、企業AI負責人,以及投資人。

可跳過

前兩分鐘收購寒暄信息量低,可直接跳到6分鐘後的正式討論。