AI推理不再有90%毛利，每多一層供應商就分走利潤
一美元從客戶流到英偉達手裡，要經過應用、模型、基礎設施、雲等好幾層，每層都切走20%到30%的毛利，這就是AI基礎設施公司回不到軟件黃金時代毛利率的原因。
原視頻在 YouTube 上放不出來，用音頻聽：
核心論點 · 點時間戳可跳到原聲
融資不是護城河，買GPU才是真燒錢
Modal在P&L層面是盈利的，但現金流是負的，因為要花大量錢買GPU產能。這和公司早期的情況完全不同——早年Modal資本效率極高，一個月只燒幾百萬美元；直到去年開始，為了拿到算力和建產能，才開始大筆花錢。Erik不願意把資本稱為護城河，因為這個詞被濫用了，但承認在這個階段資本確實很有幫助。他同時提到，VC總想塞比公司需要更多的錢進來，這會造成不必要的稀釋，早期更應該少融、估值低一點，把VC對下一輪的胃口吊著。
— Erik Bernhardsson只賣token註定一場價格戰
Erik認為純推理業務沒有護城河：如果你只是在賣「把token換成美元」,客戶沒有任何切換成本，結果就是race to the bottom。Modal花了五年時間把後訓練、sandboxes、智能體基礎設施、低延遲推理、批處理推理全部搭在一起，目的就是讓客戶買的是一整套工具，而不是單一的推理接口。他的判斷是，沒有人想買single trick pony,大家想買的是能直接拿去搭AI應用的完整工具箱，基礎設施層面的複雜度本身就是很難複製的壁壘。
— Erik Bernhardsson90%軟件毛利的時代已經過去
Erik認為這是關於推理市場一個被低估的結構性事實：幾乎沒有公司還能維持十年前硅谷那種90%以上的軟件毛利。原因接近拓撲學——現在客戶付的每一美元要流經應用、模型、基礎設施、雲、英偉達這一整條堆棧，每一層都會切走20%到30%的毛利。所以整個市場雖然巨大，但被切分到了很多層。他給Modal自己的長期毛利率預期是40%到60%,明確表示永遠到不了傳統軟件公司的毛利水平。
— Erik BernhardssonGPU採購現場像毒品黑市
Erik用在GTC的親身經歷描述買GPU的真實狀態：跑來跑去找500家不同的雲廠商問「你們有GPU嗎」,他把這個場面形容成「露天毒品黑市，只不過賣的是GPU」。Modal現在和25家NeoCloud合作，大概掌控全球0.1%左右的算力。他的長期目標是，隨著Modal控制的算力越來越多，就能把成千上萬客戶各自波動、不可預測的需求聚合成一條平滑曲線，再去高效匹配供給——這才是他認為Modal真正能做、別人難以複製的事。
— Erik BernhardssonSandboxes冷啟動四年才爆發
Modal的sandbox產品2023年就上線了，但頭兩年幾乎沒什麼存在感，直到2025年夏天——模型在生成代碼、搭建完整應用上突然變得很強——這塊業務才徹底爆發。現在sandboxes年化營收已經到3億美元，佔Modal總營收的大約三分之一。Erik把這總結為基礎設施產品的常態：你沒法準確預測哪個building block會成為爆款，stable diffusion、chatGPT都不是他們建serverless函數產品時預判到的，唯一能做的是先把好的基礎構件鋪好，然後等timing對上。
— Erik BernhardssonDeepSeek讓Modal意識押錯了資源
回顧資源分配上最後悔的一次決策，Erik承認Modal在LLM推理上起步太晚——他們一度以為這會是純粹的commodity race to the bottom,所以沒有重押。DeepSeek發布後，團隊意識到「我們得趕緊動起來了」,一年內把這條線的團隊從一兩個人擴到30人，現在已經做到開源LLM推理前三的提供商。對於Jason Lemkin提出的「開源LLM推理已經見頂，前沿模型會反撲回來」的說法，Erik明確不同意，認為那是把市場當成固定大小的蛋糕，他判斷開源和前沿推理在未來幾年都會各自增長5到20倍，不是此消彼長的關係。
— Erik Bernhardsson強化學習只啃得動短反饋任務
Erik給後訓練畫了一條清晰的邊界：之所以coding、網絡安全、數學(配合Lean)這些領域的強化學習效果好，是因為它們有相對有限、可驗證的反饋機制——代碼可以直接在sandbox裡跑起來看對不對。但他不確定這套方法能不能延伸到反饋週期更長的任務上。對軟件工程師的預測是，未來大概會把「agent能在24小時或一週內完成的事」全部自動化掉，但工程師工作本身的反饋週期更長，所以這部分崗位短期內是安全的——不過他也補充說自己在這類預測上已經錯過很多次了。
— Erik Bernhardsson賣數據給實驗室是現在最賺錢的生意
被問到如果重新20歲會做什麼，Erik不假思索地說會去開一家數據環境公司，專門把數據賣給前沿實驗室，尤其是代碼環境這塊需求最旺，「這個領域能賺到的錢多到有點不可思議」。但他也給出了一個保留意見：這類公司現在現金流極好，但能不能支撐起一個長期的、值得走venture路線的大生意，他並不確定——他的建議是「不管怎樣，先把這筆錢拿了，這就是一門好生意」。
— Erik Bernhardsson原話 · 已逐字校驗
You never have moats in the early days.
創業早期從來沒有護城河這回事。
Erik Bernhardsson10:09
What you used to see in Silicon Valley 10 years ago with this 90% margins plus, I think that's basically gone.
十年前硅谷常見的那種90%以上的軟件毛利，我覺得基本上已經一去不復返了。
Erik Bernhardsson15:13
I would describe that as like an open air drug market, but GPUs instead of drugs.
我會把那種場面形容成一個露天毒品黑市，只不過賣的是GPU而不是毒品。
Erik Bernhardsson17:16
I actually, I think it's a little overstated. I don't think CUDA itself is the moat.
老實說，我覺得這個說法有點被誇大了。我不認為CUDA本身就是護城河。
Erik Bernhardsson23:22
And then Deep Sea came out. We're like, fuck, like we got to move very fast.
然後DeepSeek出來了，我們當時就想，操，我們得趕緊動起來了。
Erik Bernhardsson36:36
If I was 20 and I just wanted to make a lot of money, I would go out and start an environment company and just sell data to the Frontier Labs.
如果我現在20歲，就想賺錢，我會去開一家數據環境公司，把數據賣給前沿實驗室。
Erik Bernhardsson45:49
we've lost new grads going to, you know, some of the labs for like, like talking, you know, 20 plus million.
我們眼睜睜看著一些應屆生被實驗室挖走，開價差不多是兩千萬美元以上。
Erik Bernhardsson52:58
數字與實體
| D輪融資額(Excel領投) | 7.5億美元 | 0:00 |
| Modal估值 | 157.5億美元 | 0:00 |
| 過去12個月營收增速 | 50倍 | 38:37 |
| 過去12個月月環比增長率 | 30%-40% | 20:16 |
| GPU採購提前期 | 3-4個月 | 20:16 |
| Sandboxes年化營收 | 3億美元，約佔Modal總營收三分之一 | 34:35 |
| Claude Code年化收入 | 600億美元，支撐Anthropic 2萬億美元估值 | 44:47 |
術語
- NeoCloud新興GPU雲廠商
- 專注出租GPU算力而非做全棧雲服務的新興雲廠商，如CoreWeave、Nebius
- PLG (Product-Led Growth)產品驅動增長
- 靠用戶自發試用產品獲客，而不是靠銷售團隊推動增長
- sandbox沙箱/隔離執行環境
- 讓AI模型安全運行代碼、即時獲得反饋結果的隔離計算環境
收聽指南
關注AI基礎設施、GPU算力供給和推理市場格局的投資人與工程負責人，以及想理解infra公司真實毛利結構的創業者。
約4-8分鐘聊童年與創業心態的部分信息密度較低，可跳過。