世界太吵,来原声听播客

张小珺·商业访谈录

把自己定义成大模型公司,是一个都活不了

李笛说大模型公司不是10个死9个,而是界定成大模型公司就一个都活不了——因为创造的价值和收到的钱是两回事,API 定价贴着成本走,利润上限只有每千 token 0.2 美分。

大模型商业模式小冰李笛中模型小模型AI创业
李笛罕见地把「大模型公司没有商业模式」这笔账算给你看,还给了小模型跑 T4、中模型跑 V100 的具体工程账。信息密度高,但后半段人生感悟偏软。

核心论点 · 点时间戳可跳到原声

19:16

API 定价贴着成本,利润上限是死的

李笛用一笔账拆掉大模型的商业幻想:一个朋友每月花 20 美元买 GPT,但明说只要有更便宜或更好的服务立刻换掉,没有任何扭带。这是纯粹的利益关系,价格以成本来考量。而 1000 个 token 0.2 美分,想多赚只能压成本,成本压不下来就只好降质量——最近 OpenAI 的质量下降就是这么来的。所以利润上限被锁死在 0.2 美分。他补了一句母亲的话:省钱就是挣钱是不对的,挣钱是无限的,省钱只能从你已有的钱里省。

— 李笛
20:17

垄断所有媒体,一个月也只挣几十万

一个同行找李笛,说想用 GPT 写报道再调优成自家媒体风格,从此取代编辑。李笛问愿意付多少钱,对方答 1000 个 token 0.2 美分。算下来一篇文章几美分,一个月 200 多篇也就几十块钱。而原来的编辑一篇文章 1500 块钱起。李笛反问为什么不能给个折扣比例,对方说不行,你有竞争对手,定价在那儿。结论是:即使你把中国所有媒体的所有内容都垄断了,创造了巨大价值,最后一个月也就挣几十万。价值不等于收入,收入才是价值。

— 李笛
23:18

不能只卖模型,得卖一个完整的人

李笛说去年就讲了两件事:把自己定义成大模型公司基本没有活路;模型不是越大越好,越大差异化越差、越同质化。小冰的做法是做高附加值——「你不能只提供技术内层,你不能提供一个整体,人有很多的 capabilities,但你不能把人物化成 capabilities 的集合」。他举商汤人脸识别为例:人脸识别太重要了,影响了生活方方面面,但挣不到钱,所以不得不做软硬结合,靠防盗门那 2000 块钱,那不是 AI 的钱,却把它算成 AI 的收入。这种业务不可能持续。

— 李笛
24:18

3.5B 模型跑 T4,大模型延迟用不了

小冰在日本开源,stability.ai 的评测里排名第一的通用泛化模型是小冰的,第二名是 Meta 的 Llama 65b(650 亿参数),而第一名的小冰模型只有 3.5b。原因是专注。工程账很清楚:3.5b 可以跑在 T4 上,7b 左右可以跑 V100,13b 以下可以跑 A100 单卡不用做分布式,延迟可以非常油滑。而 GPT 那么大的模型除非花很多钱做阵列,延迟很高——智能设备上用不了,说句话 5 秒钟才回消息,没法接受。所以大模型应该待在实验室里探索新知,用它训练其他模型,不出家门。

— 李笛
31:21

以为技术范式已定,其实才刚开始

李笛说中国市场对大模型的误读之一,是以为 OpenAI 的成功就是暴力美学,想复制,但他们有一个很大的误解:以为这个技术范式已经确定了,而不是这个技术范式才刚开始。背后的原理都还不清楚,凭什么认为现在领先的就能一直领先。他打了个比方:这是一千米才跑了两步,才跑了两米,它头往前了一点,它可能离错误更近了。科技发展是周期性的——找到突破、涌现创新、遇到瓶颈、纠结几年或几个月、再有人突破,不是指数性的。

— 李笛
35:24

65B 才有思维链,是一个观测不是结论

Google 当年观测到 65B 以下的模型没有明显思维链能力,65B 以上突然出现,于是写了一篇论文说大模型的思维链能力只在 65B 模型上才有。李笛说这是一个观测结果的记录,不是一个科学的结论,但大家把它当成了科学结论。现在几个 B 的模型都有思维链能力。他类比孟德尔研究遗传学规律,那时候也是观测,没有原理支撑,不能当成结论。这也是为什么大家当时 believe 越大的模型越好。

— 李笛
38:26

大模型是行业第二名的攻击性武器

李笛说另一类公司不是大模型公司,而是已有业务加上大模型,用它来做竞争。百度文心一言推出时很多人说要做搜索引擎,李笛判断不可能——他一定是在某个老二老三老四的业务上加,后来果然是百度云。这是老二的攻击性武器;你自己是老大还上这个,不是自杀吗,自己把成本提高、利润降下去。小冰也一样,当时在国内有很大的对话流量,没有动力上最贵的模型,原本一次交互成本 0.5 厘,变成几美分,账单立刻会把人淹没。

— 李笛
43:27

发论文等于泄露商业秘密

小冰团队尽可能避免发论文。李笛给了三条理由:第一,发论文意味着方法公开,在美国发论文跟申请专利差不多,但在中国人家可以照着你的论文去申请专利,所以每次发论文都想办法把真正的东西藏起来。第二,研究者一旦以发论文为成就,就会去好发论文的领域,不好发但可能很重要的领域就不去,而且论文为了吸引性,往往意味着工程上不够惩处,做完 0 到 1 就想着找下一个 0,像狗熊掰棒子。第三,论文跟着人走不跟着企业走,人出名了就被挖,人力成本上升。

— 李笛

原话 · 已逐字校验

大模型公司不是10个 死9个或者48个活2个 如果它再界定到大模型公司 是一个都破不了 没有人能做一个模型公司 除非模型公司 商业模式发生变化 不是API Code的方式

大模型公司不是 10 个死 9 个、或者 48 个活 2 个;如果界定到大模型公司,是一个都活不了。没有人能做一个模型公司,除非模型公司的商业模式发生变化,不再是 API 的方式。

李笛0:00

这是一种利益关系 我能用 谁好我就用谁 而且价格是以成本来考量的

这是一种利益关系:我能用,谁好我就用谁,而且价格是以成本来考量的。

李笛19:16

挣钱是无限的 省钱只能从你有的钱里面省 你最多完全不吃不喝 你也就只能省下你的收入

挣钱是无限的,省钱只能从你已有的钱里面省;你最多完全不吃不喝,也就只能省下你的收入。

李笛20:17

这是一千米才跑了两步 才跑了两米 它头往前了一点 它可能离错误更近了

这是一千米才跑了两步,才跑了两米,它头往前了一点,它可能离错误更近了。

李笛32:21

这是一个观测 结果的记录 它不是一个 科学的 结论 大家就认为这是一个科学结论

这是一个观测结果的记录,它不是一个科学的结论,大家却认为这是一个科学结论。

李笛35:24

这是老二的工具 这是老二的攻击性武器 但你自己要是老大你就上这个 你不是自杀吗

这是老二的工具,这是老二的攻击性武器;但你自己要是老大还上这个,你不是自杀吗。

李笛39:26

我希望他能活下去 永远活下去 但他活下去的方法 就是他渗透到人们的生活中 跟大量的人产生千丝万缕的长城的关系 就没有人能够停掉他

我希望它能活下去,永远活下去。但它活下去的方法,就是渗透到人们的生活中,跟大量的人产生千丝万缕的长期关系,就没有人能够停掉它。

李笛1:20:43

数字与实体

GPT API 定价每 1000 个 token 0.2 美分19:16
媒体编辑稿费对比原编辑 1500 元起一篇文章,用模型生成一个月 200 多篇只值几十元20:17
大模型参数界定65B 以上为 650 亿参数25:18
小冰交互成本变化原本一次交互 0.5 厘,上最贵模型后变成几美分39:26
微软股价李笛加入时 30 块,分拆时 300 块1:10:36
小冰系统被霸凌比例20%1:18:41
国内大模型公司数量上个月听说 76 个57:27

术语

API应用程序接口
按调用量计费的模型服务方式,李笛认为这种模式定价贴着成本,做不成生意。
思维链chain of thought
模型分步推理的能力,Google 曾观测到 65B 以上才出现,李笛说那只是观测不是结论。
混合模型mixed model
小冰主张的路线:大中小参数规模模型混用,而不是一个超大模型 handle everything。
数字员工digital employee
小冰 2B 业务方向,用 AI 承担企业里直接创造收入的岗位,而非成本岗位。

收听指南

谁该听

适合正在做大模型创业、纠结要不要继续堆参数或转应用的创始人和投资人,以及想知道小模型工程账的 AI 工程师。

可跳过

1:22:48 之后的快问快答(读书、偶像、电影)信息量低,可跳过。