AI推理不再有90%毛利，每多一层供应商就分走利润
一美元从客户流到英伟达手里，要经过应用、模型、基础设施、云等好几层，每层都切走20%到30%的毛利，这就是AI基础设施公司回不到软件黄金时代毛利率的原因。
原视频在 YouTube 上放不出来，用音频听：
核心论点 · 点时间戳可跳到原声
融资不是护城河，买GPU才是真烧钱
Modal在P&L层面是盈利的，但现金流是负的，因为要花大量钱买GPU产能。这和公司早期的情况完全不同——早年Modal资本效率极高，一个月只烧几百万美元；直到去年开始，为了拿到算力和建产能，才开始大笔花钱。Erik不愿意把资本称为护城河，因为这个词被滥用了，但承认在这个阶段资本确实很有帮助。他同时提到，VC总想塞比公司需要更多的钱进来，这会造成不必要的稀释，早期更应该少融、估值低一点，把VC对下一轮的胃口吊着。
— Erik Bernhardsson只卖token注定一场价格战
Erik认为纯推理业务没有护城河：如果你只是在卖「把token换成美元」,客户没有任何切换成本，结果就是race to the bottom。Modal花了五年时间把后训练、sandboxes、智能体基础设施、低延迟推理、批处理推理全部搭在一起，目的就是让客户买的是一整套工具，而不是单一的推理接口。他的判断是，没有人想买single trick pony,大家想买的是能直接拿去搭AI应用的完整工具箱，基础设施层面的复杂度本身就是很难复制的壁垒。
— Erik Bernhardsson90%软件毛利的时代已经过去
Erik认为这是关于推理市场一个被低估的结构性事实：几乎没有公司还能维持十年前硅谷那种90%以上的软件毛利。原因接近拓扑学——现在客户付的每一美元要流经应用、模型、基础设施、云、英伟达这一整条堆栈，每一层都会切走20%到30%的毛利。所以整个市场虽然巨大，但被切分到了很多层。他给Modal自己的长期毛利率预期是40%到60%,明确表示永远到不了传统软件公司的毛利水平。
— Erik BernhardssonGPU采购现场像毒品黑市
Erik用在GTC的亲身经历描述买GPU的真实状态：跑来跑去找500家不同的云厂商问「你们有GPU吗」,他把这个场面形容成「露天毒品黑市，只不过卖的是GPU」。Modal现在和25家NeoCloud合作，大概掌控全球0.1%左右的算力。他的长期目标是，随着Modal控制的算力越来越多，就能把成千上万客户各自波动、不可预测的需求聚合成一条平滑曲线，再去高效匹配供给——这才是他认为Modal真正能做、别人难以复制的事。
— Erik BernhardssonSandboxes冷启动四年才爆发
Modal的sandbox产品2023年就上线了，但头两年几乎没什么存在感，直到2025年夏天——模型在生成代码、搭建完整应用上突然变得很强——这块业务才彻底爆发。现在sandboxes年化营收已经到3亿美元，占Modal总营收的大约三分之一。Erik把这总结为基础设施产品的常态：你没法准确预测哪个building block会成为爆款，stable diffusion、chatGPT都不是他们建serverless函数产品时预判到的，唯一能做的是先把好的基础构件铺好，然后等timing对上。
— Erik BernhardssonDeepSeek让Modal意识押错了资源
回顾资源分配上最后悔的一次决策，Erik承认Modal在LLM推理上起步太晚——他们一度以为这会是纯粹的commodity race to the bottom,所以没有重押。DeepSeek发布后，团队意识到「我们得赶紧动起来了」,一年内把这条线的团队从一两个人扩到30人，现在已经做到开源LLM推理前三的提供商。对于Jason Lemkin提出的「开源LLM推理已经见顶，前沿模型会反扑回来」的说法，Erik明确不同意，认为那是把市场当成固定大小的蛋糕，他判断开源和前沿推理在未来几年都会各自增长5到20倍，不是此消彼长的关系。
— Erik Bernhardsson强化学习只啃得动短反馈任务
Erik给后训练画了一条清晰的边界：之所以coding、网络安全、数学(配合Lean)这些领域的强化学习效果好，是因为它们有相对有限、可验证的反馈机制——代码可以直接在sandbox里跑起来看对不对。但他不确定这套方法能不能延伸到反馈周期更长的任务上。对软件工程师的预测是，未来大概会把「agent能在24小时或一周内完成的事」全部自动化掉，但工程师工作本身的反馈周期更长，所以这部分岗位短期内是安全的——不过他也补充说自己在这类预测上已经错过很多次了。
— Erik Bernhardsson卖数据给实验室是现在最赚钱的生意
被问到如果重新20岁会做什么，Erik不假思索地说会去开一家数据环境公司，专门把数据卖给前沿实验室，尤其是代码环境这块需求最旺，「这个领域能赚到的钱多到有点不可思议」。但他也给出了一个保留意见：这类公司现在现金流极好，但能不能支撑起一个长期的、值得走venture路线的大生意，他并不确定——他的建议是「不管怎样，先把这笔钱拿了，这就是一门好生意」。
— Erik Bernhardsson原话 · 已逐字校验
You never have moats in the early days.
创业早期从来没有护城河这回事。
Erik Bernhardsson10:09
What you used to see in Silicon Valley 10 years ago with this 90% margins plus, I think that's basically gone.
十年前硅谷常见的那种90%以上的软件毛利，我觉得基本上已经一去不复返了。
Erik Bernhardsson15:13
I would describe that as like an open air drug market, but GPUs instead of drugs.
我会把那种场面形容成一个露天毒品黑市，只不过卖的是GPU而不是毒品。
Erik Bernhardsson17:16
I actually, I think it's a little overstated. I don't think CUDA itself is the moat.
老实说，我觉得这个说法有点被夸大了。我不认为CUDA本身就是护城河。
Erik Bernhardsson23:22
And then Deep Sea came out. We're like, fuck, like we got to move very fast.
然后DeepSeek出来了，我们当时就想，操，我们得赶紧动起来了。
Erik Bernhardsson36:36
If I was 20 and I just wanted to make a lot of money, I would go out and start an environment company and just sell data to the Frontier Labs.
如果我现在20岁，就想赚钱，我会去开一家数据环境公司，把数据卖给前沿实验室。
Erik Bernhardsson45:49
we've lost new grads going to, you know, some of the labs for like, like talking, you know, 20 plus million.
我们眼睁睁看着一些应届生被实验室挖走，开价差不多是两千万美元以上。
Erik Bernhardsson52:58
数字与实体
| D轮融资额(Excel领投) | 7.5亿美元 | 0:00 |
| Modal估值 | 157.5亿美元 | 0:00 |
| 过去12个月营收增速 | 50倍 | 38:37 |
| 过去12个月月环比增长率 | 30%-40% | 20:16 |
| GPU采购提前期 | 3-4个月 | 20:16 |
| Sandboxes年化营收 | 3亿美元，约占Modal总营收三分之一 | 34:35 |
| Claude Code年化收入 | 600亿美元，支撑Anthropic 2万亿美元估值 | 44:47 |
术语
- NeoCloud新兴GPU云厂商
- 专注出租GPU算力而非做全栈云服务的新兴云厂商，如CoreWeave、Nebius
- PLG (Product-Led Growth)产品驱动增长
- 靠用户自发试用产品获客，而不是靠销售团队推动增长
- sandbox沙箱/隔离执行环境
- 让AI模型安全运行代码、即时获得反馈结果的隔离计算环境
收听指南
关注AI基础设施、GPU算力供给和推理市场格局的投资人与工程负责人，以及想理解infra公司真实毛利结构的创业者。
约4-8分钟聊童年与创业心态的部分信息密度较低，可跳过。