世界太吵,來原聲聽播客

老石談芯

小米三芯齊發:用資源換時間,賭端側AI範式轉變

小米一口氣發布三顆玄界芯片,激進押注存儲互聯、3D堆疊與全AI架構,用資源換時間,賭端側AI範式轉變和垂直整合能力,但距頂級芯片公司仍有明顯差距。

芯片小米玄界3D堆疊端側AI垂直整合
這期深度解析小米三顆芯片的技術選擇與戰略邏輯,信息密度高,尤其對存儲互聯、3D堆疊等關鍵技術有清晰比喻,值得芯片從業者和關注小米的投資者一聽。

核心論點 · 點時間戳可跳到原聲

3:02

會不會造芯片,看的是系統定義權不是IP自研率

判斷一家公司會不會造芯片,不能只看它手搓了多少IP,而要看它掌握了多少系統定義權。小米玄界O1雖然CPU、GPU用了ARM IP,但系統整合、物理實現都是自己做的。蘋果、高通強在能每年迭代,持續流片,這是後來者最缺的。小米沒有十年時間慢慢學,所以選擇激進路線,同時推進多條高風險技術線。

— 老石
6:04

O1能效不理想的元兇是缺一個共用水箱

玄界O1沒有系統級緩存SLC,導致GPU高負載下功耗收不住,能效不理想。SLC就像小區共用的大水箱,數據離計算單元越近,訪問越快、功耗越低。O1的GPU核心多但DDR帶寬有限,很多核心在等待數據,利用率上不去,這就是帶寬牆。O3補上16MB SLC,並拆成多個緩存塊分布芯片各處,同時設計片上網絡調度系統,解決數據一致性和訪問衝突。

— 老石
10:07

ARM公版總線太通用,玄界只能自己造

ARM公版CHI+CMN方案太通用,必須保留兼容和冗餘設計,難以針對玄界定製。O3乾脆自研X-Ring統一融合總線,兼容CHI但定義自己的互聯協議,自研高速路網調度中心和內存控制器。這樣協議轉換更少,數據可以根據需求決定緩存位置和路徑。小米數據稱協議轉換開銷降低75%,靜態訪問延遲82納秒,比O1降低32%,甚至低於蘋果A19 Pro。

— 老石
12:09

算力瓶頸正從矩陣乘法挪向向量運算

O3給CPU、GPU、ISP等每個子系統都加了AI單元,讓計算發生在數據所在的地方,減少數據搬運。NPU核心數從6核減到4核,但Tensor算力提升到200Tops,因為小米判斷大模型瓶頸正從矩陣乘法擴展到向量運算,如Softmax、量化、KVCache等。向量單元面積和Tensor差不多大,乘積累加器數量是O1的6.8倍,並引入類SMT架構,類似CUDA,處理不規則並行任務。

— 老石
15:11

芯片和模型該由同一家公司一起定義

小米與MEMO合作,用5值量化方法將INT4權重壓縮到5位,幾乎不降精度,對內存帶寬和容量需求降低30%。30億參數的MEMO模型部署在O3上,prefill性能提升40%,decode提升45%。這種芯片與模型聯合定義的能力,是垂直整合的閉環優勢,不用等別人定義好模型再適配。

— 老石
16:11

3納米的性能是靠標準單元一點點摳出來的

O3用更成熟的N3P工藝,同等功耗下性能提升5%,同頻下功耗降低5%-10%。小米還做了大量工藝優化:自研標準單元從O1的480個增加到2400多個,覆蓋芯片各單元;壓縮供電緩衝器溝道,讓供電和信號從模塊中間走,晶體管密度提升5%。CPU從4叢集改成3叢集10核全大核,單核性能提升31%,多核提升60%,超過A19 Pro。

— 老石
19:13

近存計算把手機內存帶寬推到1.22TB/s

玄界O100採用晶圓級3D堆疊,一層計算晶圓加兩層內存晶圓垂直堆疊,通過Hybrid Bonding互聯,形成近存計算架構。它用成千上萬條更短更密的垂直連線獲取高帶寬,每位移位能耗更低,類似手機端HBM。數據:28762路數據連接,帶寬1.22TB/s,遠超傳統SoC與LPDDR的幾十位寬連接。計算層有14個獨立核心,每個配RISC-V處理器做控制。

— 老石
21:17

長鑫的價值不在速率檔位,在聯合定義

小米與長鑫合作首發LPDDR6,降低對三星、SK海力士的依賴。即使長鑫給的是10.667Gbps起始檔位,小米可通過更寬通道、更大SLC、自研內存控制器彌補峰值速率差距。更重要的是,雙方從設計階段聯合驗證調優,共同定義中國移動內存子系統方案。對長鑫來說,證明其高速IO和物理層能力,坐上新一代移動內存牌桌。

— 老石
23:18

小米賭的不是芯片,是時間窗口

第一,賭端側計算範式轉變,AI在SoC中權重越來越高,手機成為AI交互入口,小米要站在定義者位置。第二,賭垂直整合成為終端公司核心競爭力,通用芯片難以滿足人車家全場景碎片化需求,必須掌握自己的計算架構。第三,賭一個不確定的時間窗口,用資源換時間,壓縮技術追趕週期,寧願承擔工程風險,也不願等窗口關閉。

— 老石
26:20

玄界追得更快,但三項門檻一項都沒過

頂級SoC公司需具備三種能力:自研CPU/GPU微架構、自研5G基帶、連續多代穩定流片並千萬級出貨。玄界目前一個都不滿足,與第一梯隊仍有明顯差距,只是追得更快。真正改變產業格局的不是某一顆驚豔芯片,而是一群公司建立起的持續迭代能力。玄界更大意義是證明小米芯片沒停,並開始與中國芯片產業夥伴一起往前走。

— 老石

原話 · 已逐字校驗

判斷一家公司到底會不會造芯片,不要只盯著它自己手搓了多少個IP,更應該看它掌握了多少系統定義權。

判斷一家公司到底會不會造芯片,不要只盯著它自己手搓了多少個IP,更應該看它掌握了多少系統定義權。

老石3:02

小米不是在慢慢學做芯片,而是在用資源換時間,在有限的時間窗口裡,儘快搭出一家成熟芯片公司需要的完整能力站。

小米不是在慢慢學做芯片,而是在用資源換時間,在有限的時間窗口裡,儘快搭出一家成熟芯片公司需要的完整能力站。

老石5:04

只要數據存的合理,頒得高效,整顆芯片都能因此而受益。

只要數據存得合理,搬得高效,整顆芯片都能因此而受益。

老石11:07

一旦做成,就不用等別人定義好的模型,再拿通用的芯片去適配,然後再考慮怎麼塞到手機裡。

一旦做成,就不用等別人定義好的模型,再拿通用的芯片去適配,然後再考慮怎麼塞到手機裡。

老石15:11

寧願在多承擔一些工程和研發上的不確定性,也不願意等到窗口真的關上之後,再後悔當初沒有快走幾步。

寧願在多承擔一些工程和研發上的不確定性,也不願意等到窗口真的關上之後,再後悔當初沒有快走幾步。

老石25:18

數字與實體

玄界O3協議轉換開銷降低75%11:07
玄界O3靜態訪問延遲82納秒11:07
玄界O3動態訪問延遲177納秒11:07
玄界O3 Tensor算力200Tops13:10
玄界O3向量算力提升6.8倍(3.13 TFLOP)14:10
玄界O3單核性能提升31%17:11
玄界O3多核性能提升60%17:11
玄界O100數據連接數28762路20:13

術語

SLC系統級緩存
芯片內多個計算單元共享的緩存,類似小區共用的大水箱。
Hybrid Bonding混合鍵合
一種晶圓級3D堆疊互聯技術,通過銅柱直接連接,帶寬高、功耗低。
近存計算近存計算
將存儲與計算單元靠近,減少數據搬運距離,提升帶寬和能效。
帶寬牆帶寬牆
數據搬運能力成為性能瓶頸,計算核心再多也無法發揮。
SMT同步多線程
一種並行處理架構,可同時管理多組任務,提高計算單元利用率。

收聽指南

誰該聽

關注小米造芯的投資者、芯片行業工程師、產品經理,以及想理解端側AI趨勢的科技從業者。

可跳過

前3分鐘關於自研定義的討論可略過,直接看技術解析部分。