世界太吵,來原聲聽播客

硅谷101

xAI 最美好的時代,為什麼留不住她

盛穎把 xAI 早期稱為 v1.0:不到 100 人、沒有 politics、同時給她 support 和 freedom。她為了 SGLang 社區提前兩個月離開,放棄一年 cliff 的 vesting。

AI Infra開源xAI推理引擎創業

原視頻在 YouTube 上放不出來,用音頻聽:

前半段是求學與低谷期的自述,信息密度一般;後半段關於 Infra 審美、開源平權、融資祛魅的部分值得聽。

核心論點 · 點時間戳可跳到原聲

34:37

xAI 給她的是 support 加 freedom

盛穎說自己在 Databricks 那幾個月嘗試推廣 SGLang 並不成功:Databricks 是成熟公司,每件事都需要充分理由,而她是 new grad researcher,沒有太大 power,也不會在成熟企業裡 drive 一個大 effort。xAI 同時給了她兩樣東西——support 和 freedom,她形容「同時有 support 和 freedom 的時候,我就能做這件事情了」。她有些其他機會只給 support,有些只給 freedom。她加入時 xAI 不到 100 人,她說那是她回憶最美好的一段時光,第一次經歷到一個公司裡完全沒有 people game、沒有 politics。

— 盛穎
44:07

兩個月 vesting 也等不了

SGLang 社區從很早就變成純社區項目,核心開發者都是網上認識的網友,共同工作兩年卻從沒開過攝像頭,默契是「我只要看到你的代碼,我就知道你是誰」。2025 年需求湧來,但大家都是業餘時間貢獻,晚上熬夜、中午再工作一下,增長快到這種模式維持不住,deliver 變成 borderline 空飛過。到七八月,盛穎的焦慮到了「再不出來把中空狀態填上,就快要讓外界失望了」。她是 one year cliff,出來時只待了十個月,再等兩個月就能拿到第一年 vesting,但她五月份就已經受不了。

— 盛穎
51:10

Infra 不是 support,Infra 本身就是產品

盛穎說 Infra 的人長期在 full stack 裡被 underestimated:要 support researcher 把實驗跑起來,也要 support product 的人把產品跑得又穩又快,自己卻總被迫做 hacky 的事。她的反駁是「Infra 本身在我眼中就是產品」——做產品會想它美不美、好不好用、有沒有擊中人性,而沒有人會說希望 Infra 擊中人性,但 Infra 產生的影響是從底層往上傳遞的。她把這種關係稱為浪漫,並說這不是她特例,寫 Infra 的一批人都能理解。RadixArk 的做法是反觀的:training job 卡住時 systematic 地解決問題,而不是打 patch 讓它必須跑。

— 盛穎
1:05:28

RadixArk 的長遠使命不屬於推理賽道

盛穎明確說,雖然 SGLang 是 Infra,但 RadixArk 的長遠使命不屬於這個賽道。她給出的目標是「把最好的 AI 帶給大家」,並說最終使命是做下一代 AI——不是單純的 Infra implementation,也不一定是模型,而是「一個現在世界上已經不存在的東西」。因此她不認為自己和現有的 Inference Players 屬於同一個 category,也正因如此願意和所有 Inference 公司保持良好關係:SGLang 不屬於 RadixArk,屬於社區,公司所有貢獻在市場上都是開源的,沒有 private fork,公司的命脈不在這裡。

— 盛穎
1:19:33

開源是空氣,不是刻意執著

盛穎糾正了「對開源執著」的說法:她出生在江西,想學編程時市面上教材和資源非常稀少,學習幾乎全部來自互聯網上 random 的帖子、CSDN、online judge,她不知道寫代碼的人是誰,也不知道他們在世界哪裡。她說自己是被這樣一群人 raise 起來的,所以 sharing open 的文化像空氣一樣存在,理所應當,「你有一個 idea,你做了一件事情,你不分享出來,那才覺得奇怪」。她也指出開源變好過程中的副作用:追捧裡摻雜了不純粹的東西,功利主義者的存在讓原本相信的人分不清哪些是純粹的。

— 盛穎
1:27:03

平權不是教育問題,是權力問題

盛穎講了一個競賽時期的例子:同樣打得很好,如果是男生大家會說他是天才,如果是女生就會說她很努力、很聽話、運氣好。她贏的每一場都要被解釋——對手狀態不好、這個題以前做過——而別人贏不需要解釋。她說這類事單拎出來都很小,但它是每天每分秒都在發生的,對被影響的人造成的衝擊要乘上一億倍。她的結論很硬:要解決這一點只有一個方法,就是讓女性真正擁有權利,通過 education 達不到任何目標。她承認自己改變不了結構性問題,但「如果我能改變 1% 的話,我願意用我的一生去改變這 1%」。

— 盛穎
1:39:36

融資前她不知道 Termsheet 是什麼

盛穎說自己剛出來融資時對這套體系一無所知:不知道什麼叫 Termsheet,不知道什麼叫估值,P-S-D-K 這個詞都沒聽說過,要寫多少頁、每頁寫什麼完全沒有概念。她去看書,書裡寫的都是美好——投資人和 founder 是終身友誼、並肩作戰的關係。現實複雜得多,但她最後真的跟 P-S-D-K 的投資人回到了書本里描述的那種關係。她的總結是:世界上存在那麼純粹的導師、投資人和採訪者,只是絕大多數人沒有堅持到把跌宕起伏的過程走完,沒有堅持到相信那個好的東西存在。

— 盛穎
1:42:39

割裂是可以的,不必脫險

被問到邏輯縝密的人如何面對世界的隨機和草臺班子,盛穎說自己很 emotional,微小的事情會造成很大的情緒影響,但她能把情緒影響和價值觀構建分離開:看到不希望發生的事,會不高興,但不會因此認為那是正常的。她說自己的正反饋循環讓她能等得越來越久——第一次等幾個月被驗證,下一次等幾年,再下一次等十年。她認為割裂本身完全 OK,不會真的很痛苦,人們只是害怕而已;唯一的重點是「你是不是按照你自己的想法去認知和行動,還是你其實是被別人牽著走的」。

— 盛穎

原話 · 已逐字校驗

一個叫做support 一個叫做freedom 同時有support和freedom的時候 我就能做這件事情了

一個叫 support,一個叫 freedom。同時有 support 和 freedom 的時候,我就能做這件事情了。

盛穎34:37

如果我們再不出來 做這件事情 我再不把這個背後 實際上的空白 就是這個是個中空的狀態 我再不把這個空白填充的話 我們就快要讓外界失望了

如果我們再不出來做這件事情,我再不把背後這個實際上的空白——這個中空的狀態——填充的話,我們就快要讓外界失望了。

盛穎46:22

我覺得Infra 它不是一個support的角色 Infra本身在我眼中就是產品

我覺得 Infra 不是一個 support 的角色,Infra 本身在我眼中就是產品。

盛穎57:26

我是被這樣一群人 被互聯網上 不知道世界上在哪裡的人 給raise起來的 就是我是被他們教會的

我是被這樣一群人、被互聯網上不知道在世界上哪裡的人 raise 起來的,我是被他們教會的。

盛穎1:20:30

我說我不能改變 我確實沒辦法改變 但是如果我能改變1%的話 我願意用我的一生 去改變這1%

我說我不能改變,我確實沒辦法改變,但是如果我能改變 1% 的話,我願意用我的一生去改變這 1%。

盛穎1:31:35

但是我的每一場贏都要被解釋 背後都有個原因叫做我為什麼贏 而不是你為什麼輸

但是我的每一場贏都要被解釋,背後都有個原因叫做我為什麼贏,而不是你為什麼輸。

盛穎1:35:36

世界上存在 那麼純粹 那麼好的導師 存在那麼好的投資人 存在那麼好的採訪者 但是絕大多數的人 他們沒有堅持到 把那個跌宕起伏的過程 走完

世界上存在那麼純粹、那麼好的導師,存在那麼好的投資人,存在那麼好的採訪者,但是絕大多數的人沒有堅持到把那個跌宕起伏的過程走完。

盛穎1:41:36

數字與實體

RadixArk 總融資額1 億美元0:00
RadixArk 團隊規模40 多人1:03
盛穎加入時 xAI 人數不到 100 人38:18
盛穎離開 xAI 時的在職時長十個月(one year cliff 未滿)46:22
vLLM 核心團隊新公司估值8 億美元1:05:28
Baseten 融資額3 億美元1:08:28
Baseten 估值50 億美元1:08:28
Fireworks AI 估值40 億美元1:08:28
Together AI 尋求的新融資10 億美元1:08:28

術語

SGLangSGLang 推理引擎
開源大模型推理引擎,用 RadixAttention 做前綴緩存複用,盛穎博士生涯收官之作。
RadixAttention基數注意力
用基數樹對請求公共前綴建索引,複用已算好的 KVCache,避免重複計算。
KVCache鍵值緩存
推理時緩存注意力計算的鍵值,多輪對話中後續請求可複用前文歷史。
MilesMiles RL 框架
RadixArk 開發的 RL 框架,DeepSeek 新模型發布時首次實現 RL 的 day zero 兼容。
day zero零天兼容
新模型發布當天推理引擎就完成適配支持,市場對 Infra 方的期待。
one year cliff一年 cliff
股權 vesting 滿一年才拿到第一批,提前離職則一股不得。

收聽指南

誰該聽

做 AI Infra 的工程師、開源項目維護者、以及正在從大廠出來創業的技術人,尤其關心組織從人治轉向體系那一段。

可跳過

2:16 到 26:01 的求學、低谷期與《甄嬛傳》段落,與 AI 判斷無關。