xAI 最美好的时代,为什么留不住她
盛颖把 xAI 早期称为 v1.0:不到 100 人、没有 politics、同时给她 support 和 freedom。她为了 SGLang 社区提前两个月离开,放弃一年 cliff 的 vesting。
原视频在 YouTube 上放不出来,用音频听:
核心论点 · 点时间戳可跳到原声
xAI 给她的是 support 加 freedom
盛颖说自己在 Databricks 那几个月尝试推广 SGLang 并不成功:Databricks 是成熟公司,每件事都需要充分理由,而她是 new grad researcher,没有太大 power,也不会在成熟企业里 drive 一个大 effort。xAI 同时给了她两样东西——support 和 freedom,她形容「同时有 support 和 freedom 的时候,我就能做这件事情了」。她有些其他机会只给 support,有些只给 freedom。她加入时 xAI 不到 100 人,她说那是她回忆最美好的一段时光,第一次经历到一个公司里完全没有 people game、没有 politics。
— 盛颖两个月 vesting 也等不了
SGLang 社区从很早就变成纯社区项目,核心开发者都是网上认识的网友,共同工作两年却从没开过摄像头,默契是「我只要看到你的代码,我就知道你是谁」。2025 年需求涌来,但大家都是业余时间贡献,晚上熬夜、中午再工作一下,增长快到这种模式维持不住,deliver 变成 borderline 空飞过。到七八月,盛颖的焦虑到了「再不出来把中空状态填上,就快要让外界失望了」。她是 one year cliff,出来时只待了十个月,再等两个月就能拿到第一年 vesting,但她五月份就已经受不了。
— 盛颖Infra 不是 support,Infra 本身就是产品
盛颖说 Infra 的人长期在 full stack 里被 underestimated:要 support researcher 把实验跑起来,也要 support product 的人把产品跑得又稳又快,自己却总被迫做 hacky 的事。她的反驳是「Infra 本身在我眼中就是产品」——做产品会想它美不美、好不好用、有没有击中人性,而没有人会说希望 Infra 击中人性,但 Infra 产生的影响是从底层往上传递的。她把这种关系称为浪漫,并说这不是她特例,写 Infra 的一批人都能理解。RadixArk 的做法是反观的:training job 卡住时 systematic 地解决问题,而不是打 patch 让它必须跑。
— 盛颖RadixArk 的长远使命不属于推理赛道
盛颖明确说,虽然 SGLang 是 Infra,但 RadixArk 的长远使命不属于这个赛道。她给出的目标是「把最好的 AI 带给大家」,并说最终使命是做下一代 AI——不是单纯的 Infra implementation,也不一定是模型,而是「一个现在世界上已经不存在的东西」。因此她不认为自己和现有的 Inference Players 属于同一个 category,也正因如此愿意和所有 Inference 公司保持良好关系:SGLang 不属于 RadixArk,属于社区,公司所有贡献在市场上都是开源的,没有 private fork,公司的命脉不在这里。
— 盛颖开源是空气,不是刻意执着
盛颖纠正了「对开源执着」的说法:她出生在江西,想学编程时市面上教材和资源非常稀少,学习几乎全部来自互联网上 random 的帖子、CSDN、online judge,她不知道写代码的人是谁,也不知道他们在世界哪里。她说自己是被这样一群人 raise 起来的,所以 sharing open 的文化像空气一样存在,理所应当,「你有一个 idea,你做了一件事情,你不分享出来,那才觉得奇怪」。她也指出开源变好过程中的副作用:追捧里掺杂了不纯粹的东西,功利主义者的存在让原本相信的人分不清哪些是纯粹的。
— 盛颖平权不是教育问题,是权力问题
盛颖讲了一个竞赛时期的例子:同样打得很好,如果是男生大家会说他是天才,如果是女生就会说她很努力、很听话、运气好。她赢的每一场都要被解释——对手状态不好、这个题以前做过——而别人赢不需要解释。她说这类事单拎出来都很小,但它是每天每分秒都在发生的,对被影响的人造成的冲击要乘上一亿倍。她的结论很硬:要解决这一点只有一个方法,就是让女性真正拥有权利,通过 education 达不到任何目标。她承认自己改变不了结构性问题,但「如果我能改变 1% 的话,我愿意用我的一生去改变这 1%」。
— 盛颖融资前她不知道 Termsheet 是什么
盛颖说自己刚出来融资时对这套体系一无所知:不知道什么叫 Termsheet,不知道什么叫估值,P-S-D-K 这个词都没听说过,要写多少页、每页写什么完全没有概念。她去看书,书里写的都是美好——投资人和 founder 是终身友谊、并肩作战的关系。现实复杂得多,但她最后真的跟 P-S-D-K 的投资人回到了书本里描述的那种关系。她的总结是:世界上存在那么纯粹的导师、投资人和采访者,只是绝大多数人没有坚持到把跌宕起伏的过程走完,没有坚持到相信那个好的东西存在。
— 盛颖割裂是可以的,不必脱险
被问到逻辑缜密的人如何面对世界的随机和草台班子,盛颖说自己很 emotional,微小的事情会造成很大的情绪影响,但她能把情绪影响和价值观构建分离开:看到不希望发生的事,会不高兴,但不会因此认为那是正常的。她说自己的正反馈循环让她能等得越来越久——第一次等几个月被验证,下一次等几年,再下一次等十年。她认为割裂本身完全 OK,不会真的很痛苦,人们只是害怕而已;唯一的重点是「你是不是按照你自己的想法去认知和行动,还是你其实是被别人牵着走的」。
— 盛颖原话 · 已逐字校验
一个叫做support 一个叫做freedom 同时有support和freedom的时候 我就能做这件事情了
一个叫 support,一个叫 freedom。同时有 support 和 freedom 的时候,我就能做这件事情了。
盛颖34:37
如果我们再不出来 做这件事情 我再不把这个背后 实际上的空白 就是这个是个中空的状态 我再不把这个空白填充的话 我们就快要让外界失望了
如果我们再不出来做这件事情,我再不把背后这个实际上的空白——这个中空的状态——填充的话,我们就快要让外界失望了。
盛颖46:22
我觉得Infra 它不是一个support的角色 Infra本身在我眼中就是产品
我觉得 Infra 不是一个 support 的角色,Infra 本身在我眼中就是产品。
盛颖57:26
我是被这样一群人 被互联网上 不知道世界上在哪里的人 给raise起来的 就是我是被他们教会的
我是被这样一群人、被互联网上不知道在世界上哪里的人 raise 起来的,我是被他们教会的。
盛颖1:20:30
我说我不能改变 我确实没办法改变 但是如果我能改变1%的话 我愿意用我的一生 去改变这1%
我说我不能改变,我确实没办法改变,但是如果我能改变 1% 的话,我愿意用我的一生去改变这 1%。
盛颖1:31:35
但是我的每一场赢都要被解释 背后都有个原因叫做我为什么赢 而不是你为什么输
但是我的每一场赢都要被解释,背后都有个原因叫做我为什么赢,而不是你为什么输。
盛颖1:35:36
世界上存在 那么纯粹 那么好的导师 存在那么好的投资人 存在那么好的采访者 但是绝大多数的人 他们没有坚持到 把那个跌宕起伏的过程 走完
世界上存在那么纯粹、那么好的导师,存在那么好的投资人,存在那么好的采访者,但是绝大多数的人没有坚持到把那个跌宕起伏的过程走完。
盛颖1:41:36
数字与实体
| RadixArk 总融资额 | 1 亿美元 | 0:00 |
| RadixArk 团队规模 | 40 多人 | 1:03 |
| 盛颖加入时 xAI 人数 | 不到 100 人 | 38:18 |
| 盛颖离开 xAI 时的在职时长 | 十个月(one year cliff 未满) | 46:22 |
| vLLM 核心团队新公司估值 | 8 亿美元 | 1:05:28 |
| Baseten 融资额 | 3 亿美元 | 1:08:28 |
| Baseten 估值 | 50 亿美元 | 1:08:28 |
| Fireworks AI 估值 | 40 亿美元 | 1:08:28 |
| Together AI 寻求的新融资 | 10 亿美元 | 1:08:28 |
术语
- SGLangSGLang 推理引擎
- 开源大模型推理引擎,用 RadixAttention 做前缀缓存复用,盛颖博士生涯收官之作。
- RadixAttention基数注意力
- 用基数树对请求公共前缀建索引,复用已算好的 KVCache,避免重复计算。
- KVCache键值缓存
- 推理时缓存注意力计算的键值,多轮对话中后续请求可复用前文历史。
- MilesMiles RL 框架
- RadixArk 开发的 RL 框架,DeepSeek 新模型发布时首次实现 RL 的 day zero 兼容。
- day zero零天兼容
- 新模型发布当天推理引擎就完成适配支持,市场对 Infra 方的期待。
- one year cliff一年 cliff
- 股权 vesting 满一年才拿到第一批,提前离职则一股不得。
收听指南
做 AI Infra 的工程师、开源项目维护者、以及正在从大厂出来创业的技术人,尤其关心组织从人治转向体系那一段。
2:16 到 26:01 的求学、低谷期与《甄嬛传》段落,与 AI 判断无关。