世界太吵,来原声听播客

老石谈芯

小米三芯齐发:用资源换时间,赌端侧AI范式转变

小米一口气发布三颗玄界芯片,激进押注存储互联、3D堆叠与全AI架构,用资源换时间,赌端侧AI范式转变和垂直整合能力,但距顶级芯片公司仍有明显差距。

芯片小米玄界3D堆叠端侧AI垂直整合
这期深度解析小米三颗芯片的技术选择与战略逻辑,信息密度高,尤其对存储互联、3D堆叠等关键技术有清晰比喻,值得芯片从业者和关注小米的投资者一听。

核心论点 · 点时间戳可跳到原声

3:02

会不会造芯片,看的是系统定义权不是IP自研率

判断一家公司会不会造芯片,不能只看它手搓了多少IP,而要看它掌握了多少系统定义权。小米玄界O1虽然CPU、GPU用了ARM IP,但系统整合、物理实现都是自己做的。苹果、高通强在能每年迭代,持续流片,这是后来者最缺的。小米没有十年时间慢慢学,所以选择激进路线,同时推进多条高风险技术线。

— 老石
6:04

O1能效不理想的元凶是缺一个共用水箱

玄界O1没有系统级缓存SLC,导致GPU高负载下功耗收不住,能效不理想。SLC就像小区共用的大水箱,数据离计算单元越近,访问越快、功耗越低。O1的GPU核心多但DDR带宽有限,很多核心在等待数据,利用率上不去,这就是带宽墙。O3补上16MB SLC,并拆成多个缓存块分布芯片各处,同时设计片上网络调度系统,解决数据一致性和访问冲突。

— 老石
10:07

ARM公版总线太通用,玄界只能自己造

ARM公版CHI+CMN方案太通用,必须保留兼容和冗余设计,难以针对玄界定制。O3干脆自研X-Ring统一融合总线,兼容CHI但定义自己的互联协议,自研高速路网调度中心和内存控制器。这样协议转换更少,数据可以根据需求决定缓存位置和路径。小米数据称协议转换开销降低75%,静态访问延迟82纳秒,比O1降低32%,甚至低于苹果A19 Pro。

— 老石
12:09

算力瓶颈正从矩阵乘法挪向向量运算

O3给CPU、GPU、ISP等每个子系统都加了AI单元,让计算发生在数据所在的地方,减少数据搬运。NPU核心数从6核减到4核,但Tensor算力提升到200Tops,因为小米判断大模型瓶颈正从矩阵乘法扩展到向量运算,如Softmax、量化、KVCache等。向量单元面积和Tensor差不多大,乘积累加器数量是O1的6.8倍,并引入类SMT架构,类似CUDA,处理不规则并行任务。

— 老石
15:11

芯片和模型该由同一家公司一起定义

小米与MEMO合作,用5值量化方法将INT4权重压缩到5位,几乎不降精度,对内存带宽和容量需求降低30%。30亿参数的MEMO模型部署在O3上,prefill性能提升40%,decode提升45%。这种芯片与模型联合定义的能力,是垂直整合的闭环优势,不用等别人定义好模型再适配。

— 老石
16:11

3纳米的性能是靠标准单元一点点抠出来的

O3用更成熟的N3P工艺,同等功耗下性能提升5%,同频下功耗降低5%-10%。小米还做了大量工艺优化:自研标准单元从O1的480个增加到2400多个,覆盖芯片各单元;压缩供电缓冲器沟道,让供电和信号从模块中间走,晶体管密度提升5%。CPU从4丛集改成3丛集10核全大核,单核性能提升31%,多核提升60%,超过A19 Pro。

— 老石
19:13

近存计算把手机内存带宽推到1.22TB/s

玄界O100采用晶圆级3D堆叠,一层计算晶圆加两层内存晶圆垂直堆叠,通过Hybrid Bonding互联,形成近存计算架构。它用成千上万条更短更密的垂直连线获取高带宽,每位移位能耗更低,类似手机端HBM。数据:28762路数据连接,带宽1.22TB/s,远超传统SoC与LPDDR的几十位宽连接。计算层有14个独立核心,每个配RISC-V处理器做控制。

— 老石
21:17

长鑫的价值不在速率档位,在联合定义

小米与长鑫合作首发LPDDR6,降低对三星、SK海力士的依赖。即使长鑫给的是10.667Gbps起始档位,小米可通过更宽通道、更大SLC、自研内存控制器弥补峰值速率差距。更重要的是,双方从设计阶段联合验证调优,共同定义中国移动内存子系统方案。对长鑫来说,证明其高速IO和物理层能力,坐上新一代移动内存牌桌。

— 老石
23:18

小米赌的不是芯片,是时间窗口

第一,赌端侧计算范式转变,AI在SoC中权重越来越高,手机成为AI交互入口,小米要站在定义者位置。第二,赌垂直整合成为终端公司核心竞争力,通用芯片难以满足人车家全场景碎片化需求,必须掌握自己的计算架构。第三,赌一个不确定的时间窗口,用资源换时间,压缩技术追赶周期,宁愿承担工程风险,也不愿等窗口关闭。

— 老石
26:20

玄界追得更快,但三项门槛一项都没过

顶级SoC公司需具备三种能力:自研CPU/GPU微架构、自研5G基带、连续多代稳定流片并千万级出货。玄界目前一个都不满足,与第一梯队仍有明显差距,只是追得更快。真正改变产业格局的不是某一颗惊艳芯片,而是一群公司建立起的持续迭代能力。玄界更大意义是证明小米芯片没停,并开始与中国芯片产业伙伴一起往前走。

— 老石

原话 · 已逐字校验

判断一家公司到底会不会造芯片,不要只盯着它自己手搓了多少个IP,更应该看它掌握了多少系统定义权。

判断一家公司到底会不会造芯片,不要只盯着它自己手搓了多少个IP,更应该看它掌握了多少系统定义权。

老石3:02

小米不是在慢慢学做芯片,而是在用资源换时间,在有限的时间窗口里,尽快搭出一家成熟芯片公司需要的完整能力站。

小米不是在慢慢学做芯片,而是在用资源换时间,在有限的时间窗口里,尽快搭出一家成熟芯片公司需要的完整能力站。

老石5:04

只要数据存的合理,颁得高效,整颗芯片都能因此而受益。

只要数据存得合理,搬得高效,整颗芯片都能因此而受益。

老石11:07

一旦做成,就不用等别人定义好的模型,再拿通用的芯片去适配,然后再考虑怎么塞到手机里。

一旦做成,就不用等别人定义好的模型,再拿通用的芯片去适配,然后再考虑怎么塞到手机里。

老石15:11

宁愿在多承担一些工程和研发上的不确定性,也不愿意等到窗口真的关上之后,再后悔当初没有快走几步。

宁愿在多承担一些工程和研发上的不确定性,也不愿意等到窗口真的关上之后,再后悔当初没有快走几步。

老石25:18

数字与实体

玄界O3协议转换开销降低75%11:07
玄界O3静态访问延迟82纳秒11:07
玄界O3动态访问延迟177纳秒11:07
玄界O3 Tensor算力200Tops13:10
玄界O3向量算力提升6.8倍(3.13 TFLOP)14:10
玄界O3单核性能提升31%17:11
玄界O3多核性能提升60%17:11
玄界O100数据连接数28762路20:13

术语

SLC系统级缓存
芯片内多个计算单元共享的缓存,类似小区共用的大水箱。
Hybrid Bonding混合键合
一种晶圆级3D堆叠互联技术,通过铜柱直接连接,带宽高、功耗低。
近存计算近存计算
将存储与计算单元靠近,减少数据搬运距离,提升带宽和能效。
带宽墙带宽墙
数据搬运能力成为性能瓶颈,计算核心再多也无法发挥。
SMT同步多线程
一种并行处理架构,可同时管理多组任务,提高计算单元利用率。

收听指南

谁该听

关注小米造芯的投资者、芯片行业工程师、产品经理,以及想理解端侧AI趋势的科技从业者。

可跳过

前3分钟关于自研定义的讨论可略过,直接看技术解析部分。