小米三芯齐发:用资源换时间,赌端侧AI范式转变
小米一口气发布三颗玄界芯片,激进押注存储互联、3D堆叠与全AI架构,用资源换时间,赌端侧AI范式转变和垂直整合能力,但距顶级芯片公司仍有明显差距。
核心论点 · 点时间戳可跳到原声
自研芯片判断标准
判断一家公司会不会造芯片,不能只看它手搓了多少IP,而要看它掌握了多少系统定义权。小米玄界O1虽然CPU、GPU用了ARM IP,但系统整合、物理实现都是自己做的。苹果、高通强在能每年迭代,持续流片,这是后来者最缺的。小米没有十年时间慢慢学,所以选择激进路线,同时推进多条高风险技术线。
— 老石O3补上SLC缓存短板
玄界O1没有系统级缓存SLC,导致GPU高负载下功耗收不住,能效不理想。SLC就像小区共用的大水箱,数据离计算单元越近,访问越快、功耗越低。O1的GPU核心多但DDR带宽有限,很多核心在等待数据,利用率上不去,这就是带宽墙。O3补上16MB SLC,并拆成多个缓存块分布芯片各处,同时设计片上网络调度系统,解决数据一致性和访问冲突。
— 老石自研X-Ring总线
ARM公版CHI+CMN方案太通用,必须保留兼容和冗余设计,难以针对玄界定制。O3干脆自研X-Ring统一融合总线,兼容CHI但定义自己的互联协议,自研高速路网调度中心和内存控制器。这样协议转换更少,数据可以根据需求决定缓存位置和路径。小米数据称协议转换开销降低75%,静态访问延迟82纳秒,比O1降低32%,甚至低于苹果A19 Pro。
— 老石全AI架构与NPU重构
O3给CPU、GPU、ISP等每个子系统都加了AI单元,让计算发生在数据所在的地方,减少数据搬运。NPU核心数从6核减到4核,但Tensor算力提升到200Tops,因为小米判断大模型瓶颈正从矩阵乘法扩展到向量运算,如Softmax、量化、KVCache等。向量单元面积和Tensor差不多大,乘积累加器数量是O1的6.8倍,并引入类SMT架构,类似CUDA,处理不规则并行任务。
— 老石与MEMO联合优化
小米与MEMO合作,用5值量化方法将INT4权重压缩到5位,几乎不降精度,对内存带宽和容量需求降低30%。30亿参数的MEMO模型部署在O3上,prefill性能提升40%,decode提升45%。这种芯片与模型联合定义的能力,是垂直整合的闭环优势,不用等别人定义好模型再适配。
— 老石3纳米工艺压榨
O3用更成熟的N3P工艺,同等功耗下性能提升5%,同频下功耗降低5%-10%。小米还做了大量工艺优化:自研标准单元从O1的480个增加到2400多个,覆盖芯片各单元;压缩供电缓冲器沟道,让供电和信号从模块中间走,晶体管密度提升5%。CPU从4丛集改成3丛集10核全大核,单核性能提升31%,多核提升60%,超过A19 Pro。
— 老石O100近存计算
玄界O100采用晶圆级3D堆叠,一层计算晶圆加两层内存晶圆垂直堆叠,通过Hybrid Bonding互联,形成近存计算架构。它用成千上万条更短更密的垂直连线获取高带宽,每位移位能耗更低,类似手机端HBM。数据:28762路数据连接,带宽1.22TB/s,远超传统SoC与LPDDR的几十位宽连接。计算层有14个独立核心,每个配RISC-V处理器做控制。
— 老石与长鑫合作意义
小米与长鑫合作首发LPDDR6,降低对三星、SK海力士的依赖。即使长鑫给的是10.667Gbps起始档位,小米可通过更宽通道、更大SLC、自研内存控制器弥补峰值速率差距。更重要的是,双方从设计阶段联合验证调优,共同定义中国移动内存子系统方案。对长鑫来说,证明其高速IO和物理层能力,坐上新一代移动内存牌桌。
— 老石小米在赌三件事
第一,赌端侧计算范式转变,AI在SoC中权重越来越高,手机成为AI交互入口,小米要站在定义者位置。第二,赌垂直整合成为终端公司核心竞争力,通用芯片难以满足人车家全场景碎片化需求,必须掌握自己的计算架构。第三,赌一个不确定的时间窗口,用资源换时间,压缩技术追赶周期,宁愿承担工程风险,也不愿等窗口关闭。
— 老石玄界成功了吗
顶级SoC公司需具备三种能力:自研CPU/GPU微架构、自研5G基带、连续多代稳定流片并千万级出货。玄界目前一个都不满足,与第一梯队仍有明显差距,只是追得更快。真正改变产业格局的不是某一颗惊艳芯片,而是一群公司建立起的持续迭代能力。玄界更大意义是证明小米芯片没停,并开始与中国芯片产业伙伴一起往前走。
— 老石原话 · 已逐字校验
判断一家公司到底会不会造芯片,不要只盯着它自己手搓了多少个IP,更应该看它掌握了多少系统定义权。
判断一家公司到底会不会造芯片,不要只盯着它自己手搓了多少个IP,更应该看它掌握了多少系统定义权。
老石3:02
小米不是在慢慢学做芯片,而是在用资源换时间,在有限的时间窗口里,尽快搭出一家成熟芯片公司需要的完整能力站。
小米不是在慢慢学做芯片,而是在用资源换时间,在有限的时间窗口里,尽快搭出一家成熟芯片公司需要的完整能力站。
老石5:04
只要数据存的合理,颁得高效,整颗芯片都能因此而受益。
只要数据存得合理,搬得高效,整颗芯片都能因此而受益。
老石11:07
一旦做成,就不用等别人定义好的模型,再拿通用的芯片去适配,然后再考虑怎么塞到手机里。
一旦做成,就不用等别人定义好的模型,再拿通用的芯片去适配,然后再考虑怎么塞到手机里。
老石15:11
宁愿在多承担一些工程和研发上的不确定性,也不愿意等到窗口真的关上之后,再后悔当初没有快走几步。
宁愿在多承担一些工程和研发上的不确定性,也不愿意等到窗口真的关上之后,再后悔当初没有快走几步。
老石25:18
数字与实体
| 玄界O3协议转换开销降低 | 75% | 11:07 |
| 玄界O3静态访问延迟 | 82纳秒 | 11:07 |
| 玄界O3动态访问延迟 | 177纳秒 | 11:07 |
| 玄界O3 Tensor算力 | 200Tops | 13:10 |
| 玄界O3向量算力提升 | 6.8倍(3.13 TFLOP) | 14:10 |
| 玄界O3单核性能提升 | 31% | 17:11 |
| 玄界O3多核性能提升 | 60% | 17:11 |
| 玄界O100数据连接数 | 28762路 | 20:13 |
术语
- SLC系统级缓存
- 芯片内多个计算单元共享的缓存,类似小区共用的大水箱。
- Hybrid Bonding混合键合
- 一种晶圆级3D堆叠互联技术,通过铜柱直接连接,带宽高、功耗低。
- 近存计算近存计算
- 将存储与计算单元靠近,减少数据搬运距离,提升带宽和能效。
- 带宽墙带宽墙
- 数据搬运能力成为性能瓶颈,计算核心再多也无法发挥。
- SMT同步多线程
- 一种并行处理架构,可同时管理多组任务,提高计算单元利用率。
收听指南
关注小米造芯的投资者、芯片行业工程师、产品经理,以及想理解端侧AI趋势的科技从业者。
前3分钟关于自研定义的讨论可略过,直接看技术解析部分。