世界太吵,来原声听播客

Latent Space

英伟达造不出算力期货市场:因为做了就得放弃自己的推理生意

所有手握算力供给的玩家都有自己的生意要保护,只有彻底放弃推理和云业务、只做中立撮合的人,才能让这个价格被所有人信任。

算力交易物理结算GPU市场期货曲线数据中心虚拟化套利

原视频在 YouTube 上放不出来,用音频听:

这集把算力交易从期货101讲到了衍生品老手才会追问的202级细节:定价曲线形状、流动性怎么量、谁能做中立方、谁不能。

核心论点 · 点时间戳可跳到原声

2:10

从转租集群到自己学会开整座酒店

SF Compute 最早只是想把自己集群的闲置算力转租出去,但买家一个个要求清洁、客房服务、安保——最后发现唯一能满足这些需求的办法,就是自己把整座酒店运营起来。这段经历促成了他们后来定义的「physical settlement(实物结算)」:不只是撮合买卖双方的价格,还要真正把能跑起来的算力交付到买家手上,这意味着供应方必须长得像一朵云,而不是一个二房东。

— Evan Conrad
5:45

撮合市场还很薄:只有5%运力挂单

SF Compute 坦承自己的算力交易市场「还很不成熟、不深、不流动」。目前只有公司总运力的5%被放上订单簿交易,但这一小部分的流动性很集中。他们追踪的核心指标很朴素:客户花100美元买算力,之后把这部分算力转卖回市场,平均能赚回25美元。这个数字被当作衡量「流动性对客户是否真的有用」的标尺,而不是用做市商数量这类虚指标。

— Evan Conrad
9:18

放弃统一标准,靠多维订单簿做撮合

算力不像原油有「轻质低硫原油」这种公认等级,不同云提供的GPU虚拟机性能差异可以高达40%。SF Compute 没有等行业先建立统一标准,而是设计了一个带多重约束条件的订单簿——买方可以指定时间窗口、存储配置等一堆属性,系统据此匹配卖单。代价是流动性被分散、买卖价差更大,但好处是谁能跨多种算力类型使用,谁就能吃掉其中的价差套利。

— Evan Conrad
11:41

早期H100、GB200批次更容易出故障

早期出厂的H100和GB200存在固件层面的缺陷——有时甚至不是英伟达的问题,而是主板厂商的固件bug,需要靠打补丁或换新才能解决,团队甚至用Devin去修过B300的问题。这意味着同一代芯片也分「批次」:更懂行的客户愿意为「不是第一批下线的货」多付钱,就像原油还要分不同精炼等级一样。这也是算力市场天然很难被简化成单一标准单位的原因。

— Evan Conrad
20:04

一小时40美元 vs 采购价5到6美元的套利

当前一块B300如果拿去跑推理,满载能带来约40美元一小时的收入,哪怕只有50%利用率也能有25美元;而买下这块B300、按时薪折算的采购成本却只要5到6美元一小时。Evan 直言「这两个数字之中必须有一个要变」——这正是驱动大量资本涌入算力期货市场的根本套利动机:谁能更早锁定算力供给,谁就能吃掉中间这段巨大的价差。

— Evan Conrad
23:44

现金结算必须建立在实物结算之上

Evan 认为在实物结算的基础设施成熟之前就搞太多金融化,会制造一个很容易被操纵、且存在巨大基差风险的市场——用来对冲的价格可能和真正能买到算力的价格完全脱节。他拿信用违约互换举例:这类衍生品市场的规模一度达到其承保债券的12倍。现金结算本身没问题,但前提是它要衍生自一个真实可交付的实物市场,而不是先于实物市场出现的场外对赌。

— Evan Conrad
33:20

谁都能做这件事,但谁都不愿意做

英伟达不做算力期货撮合,不是做不到,而是一旦下场就不够「中立」,没人敢拿它的报价去交易、去融资。同样的逻辑套在Crusoe、CoreWeave、Lambda和各大超大规模云厂商身上——他们在推理和云业务上赚的钱太多,一旦做中立撮合方,就等于主动放弃这部分生意。Evan 的结论是:这件事对整个行业都有利(能压低融资成本),但没人愿意为了做成它而「杀死自己的生意」。

— Evan Conrad
34:30

InfiniBand可以现场拆分,不用等审批

SF Compute 公布的新进展里,最值得兴奋的是把集群的InfiniBand物理网络「虚拟化」了:过去客户想重新划分InfiniBand网络分区,必须联系云厂商等待人工处理;现在客户可以自己动态拆分和重组,方便跟着订单簿实时伸缩集群规模。Evan 把这概括为「把数据中心变成可编程的东西」,并认为这类似当年云计算刚出现时发生的那次范式转移。

— Evan Conrad

原话 · 已逐字校验

during COVID oil went negative because, uh, so like I will pay you to take oil from me because it is sitting there in the port.

疫情期间原油价格变成负数,就是因为——我宁愿倒贴钱让你把油拿走,因为它堆在港口动不了。

Evan Conrad4:32

a customer who buys capacity from us and they spend a hundred dollars to buy that capacity. We’ll make back $25 on average from selling it back to somebody else.

一个客户从我们这里花100美元买算力,之后把这部分算力转卖给别人,平均能赚回25美元。

Evan Conrad5:45

right now if you took a B300 and you trying to run inference on it, um, you can make $40 an hour or so, um, selling that as inference.… Meanwhile, you can buy B300s at like five to $6 an hour. One of these numbers has to change.

现在如果你拿一块B300去跑推理,能卖出大约每小时40美元……与此同时,你买一块B300的成本却只要每小时5到6美元。这两个数字之中必须有一个要变。

Evan Conrad20:04

if you try to build, um, too much financialization before you’ve, the industry has had time to build out the, um, the physical settlement. Um, I think what you have is you have, um, a market that’s very easy to manipulate and a market that has a lot of basis risk

如果你在行业还没来得及把实物结算建出来之前,就搞了太多金融化,那你得到的会是一个很容易被操纵、且存在巨大基差风险的市场。

Evan Conrad23:44

So our impression is that NVIDIA can’t make it, but benefits tremendously from it existing. The reason why they can’t make it is because they would then not be independent enough for people to trade on it.

我们的看法是,英伟达做不了这件事,但它的存在让英伟达受益巨大。英伟达做不了的原因是,一旦它下场,就不够独立到可以让大家在上面交易。

Evan Conrad33:20

This is also why Crusoe and CoreWeave and Lambda, why the hyperscalers can’t make it, why Base 10 and Fireworks and Modal can’t make it because they have too much demand on that side.… You have to kill your business in order to make this. That’s why nobody does it.

这也是为什么Crusoe、CoreWeave、Lambda,以及各大超大规模云厂商都做不了这件事,为什么Base 10、Fireworks、Modal也做不了——因为它们在另一侧的需求太大了。……你必须先杀死自己的生意才能做成这件事,所以没人去做。

Evan Conrad33:20

we allow customers to subdivide their InfiniBand fabric without having to ask us.

我们允许客户自己拆分InfiniBand网络结构,不用来问我们。

Evan Conrad34:30

Would you describe this as like you’re virtualizing the data center and making it programmable? Yeah, we’re virtualizing the data center and making it programmable.

你会把这形容成「把数据中心虚拟化、变成可编程的东西」吗?是的,我们就是在把数据中心虚拟化,让它变得可编程。

Evan Conrad35:43

数字与实体

订单簿上的流通运力占比总运力的5%5:45
客户转卖算力的回收比例花100美元买入,平均转卖回收25美元5:45
B300满载跑推理的时薪约40美元/小时20:04
B300约50%利用率跑推理的时薪约25美元/小时20:04
B300按时薪折算的采购成本5到6美元/小时20:04
信用违约互换市场相对承保债券规模约12倍24:59
GPU集群的典型融资周期3到5年14:07
SF Compute已成交的累计交易量数亿美元34:30

术语

physical settlement实物结算
买方实际拿到可运行的算力资源交付,而非只结算价差
cash settlement现金结算
只结算合约价差,不涉及算力的实际交付
basis risk基差风险
对冲用的价格与实际能成交的价格脱节的风险
order book订单簿
买卖双方挂单、由撮合引擎匹配成交的系统
backplane后端互联网络
连接GPU节点的交换机、DPU、网卡等底层基础设施
InfiniBand fabricInfiniBand 网络结构
连接GPU集群节点的高速互联网络

收听指南

谁该听

关注GPU算力交易、衍生品定价结构、数据中心基础设施金融化的投资人、交易员和工程师。

可跳过

开场关于AI Engineer大会场地和分会主题的寒暄可跳过,不影响理解后面的算力市场内容。