把自己定义成大模型公司,是一个都活不了
李笛说大模型公司不是10个死9个,而是界定成大模型公司就一个都活不了——因为创造的价值和收到的钱是两回事,API 定价贴着成本走,利润上限只有每千 token 0.2 美分。
原视频在 YouTube 上放不出来,用音频听:
核心论点 · 点时间戳可跳到原声
API 定价贴着成本,利润上限是死的
李笛用一笔账拆掉大模型的商业幻想:一个朋友每月花 20 美元买 GPT,但明说只要有更便宜或更好的服务立刻换掉,没有任何扭带。这是纯粹的利益关系,价格以成本来考量。而 1000 个 token 0.2 美分,想多赚只能压成本,成本压不下来就只好降质量——最近 OpenAI 的质量下降就是这么来的。所以利润上限被锁死在 0.2 美分。他补了一句母亲的话:省钱就是挣钱是不对的,挣钱是无限的,省钱只能从你已有的钱里省。
— 李笛垄断所有媒体,一个月也只挣几十万
一个同行找李笛,说想用 GPT 写报道再调优成自家媒体风格,从此取代编辑。李笛问愿意付多少钱,对方答 1000 个 token 0.2 美分。算下来一篇文章几美分,一个月 200 多篇也就几十块钱。而原来的编辑一篇文章 1500 块钱起。李笛反问为什么不能给个折扣比例,对方说不行,你有竞争对手,定价在那儿。结论是:即使你把中国所有媒体的所有内容都垄断了,创造了巨大价值,最后一个月也就挣几十万。价值不等于收入,收入才是价值。
— 李笛不能只卖模型,得卖一个完整的人
李笛说去年就讲了两件事:把自己定义成大模型公司基本没有活路;模型不是越大越好,越大差异化越差、越同质化。小冰的做法是做高附加值——「你不能只提供技术内层,你不能提供一个整体,人有很多的 capabilities,但你不能把人物化成 capabilities 的集合」。他举商汤人脸识别为例:人脸识别太重要了,影响了生活方方面面,但挣不到钱,所以不得不做软硬结合,靠防盗门那 2000 块钱,那不是 AI 的钱,却把它算成 AI 的收入。这种业务不可能持续。
— 李笛3.5B 模型跑 T4,大模型延迟用不了
小冰在日本开源,stability.ai 的评测里排名第一的通用泛化模型是小冰的,第二名是 Meta 的 Llama 65b(650 亿参数),而第一名的小冰模型只有 3.5b。原因是专注。工程账很清楚:3.5b 可以跑在 T4 上,7b 左右可以跑 V100,13b 以下可以跑 A100 单卡不用做分布式,延迟可以非常油滑。而 GPT 那么大的模型除非花很多钱做阵列,延迟很高——智能设备上用不了,说句话 5 秒钟才回消息,没法接受。所以大模型应该待在实验室里探索新知,用它训练其他模型,不出家门。
— 李笛以为技术范式已定,其实才刚开始
李笛说中国市场对大模型的误读之一,是以为 OpenAI 的成功就是暴力美学,想复制,但他们有一个很大的误解:以为这个技术范式已经确定了,而不是这个技术范式才刚开始。背后的原理都还不清楚,凭什么认为现在领先的就能一直领先。他打了个比方:这是一千米才跑了两步,才跑了两米,它头往前了一点,它可能离错误更近了。科技发展是周期性的——找到突破、涌现创新、遇到瓶颈、纠结几年或几个月、再有人突破,不是指数性的。
— 李笛65B 才有思维链,是一个观测不是结论
Google 当年观测到 65B 以下的模型没有明显思维链能力,65B 以上突然出现,于是写了一篇论文说大模型的思维链能力只在 65B 模型上才有。李笛说这是一个观测结果的记录,不是一个科学的结论,但大家把它当成了科学结论。现在几个 B 的模型都有思维链能力。他类比孟德尔研究遗传学规律,那时候也是观测,没有原理支撑,不能当成结论。这也是为什么大家当时 believe 越大的模型越好。
— 李笛大模型是行业第二名的攻击性武器
李笛说另一类公司不是大模型公司,而是已有业务加上大模型,用它来做竞争。百度文心一言推出时很多人说要做搜索引擎,李笛判断不可能——他一定是在某个老二老三老四的业务上加,后来果然是百度云。这是老二的攻击性武器;你自己是老大还上这个,不是自杀吗,自己把成本提高、利润降下去。小冰也一样,当时在国内有很大的对话流量,没有动力上最贵的模型,原本一次交互成本 0.5 厘,变成几美分,账单立刻会把人淹没。
— 李笛发论文等于泄露商业秘密
小冰团队尽可能避免发论文。李笛给了三条理由:第一,发论文意味着方法公开,在美国发论文跟申请专利差不多,但在中国人家可以照着你的论文去申请专利,所以每次发论文都想办法把真正的东西藏起来。第二,研究者一旦以发论文为成就,就会去好发论文的领域,不好发但可能很重要的领域就不去,而且论文为了吸引性,往往意味着工程上不够惩处,做完 0 到 1 就想着找下一个 0,像狗熊掰棒子。第三,论文跟着人走不跟着企业走,人出名了就被挖,人力成本上升。
— 李笛原话 · 已逐字校验
大模型公司不是10个 死9个或者48个活2个 如果它再界定到大模型公司 是一个都破不了 没有人能做一个模型公司 除非模型公司 商业模式发生变化 不是API Code的方式
大模型公司不是 10 个死 9 个、或者 48 个活 2 个;如果界定到大模型公司,是一个都活不了。没有人能做一个模型公司,除非模型公司的商业模式发生变化,不再是 API 的方式。
李笛0:00
这是一种利益关系 我能用 谁好我就用谁 而且价格是以成本来考量的
这是一种利益关系:我能用,谁好我就用谁,而且价格是以成本来考量的。
李笛19:16
挣钱是无限的 省钱只能从你有的钱里面省 你最多完全不吃不喝 你也就只能省下你的收入
挣钱是无限的,省钱只能从你已有的钱里面省;你最多完全不吃不喝,也就只能省下你的收入。
李笛20:17
这是一千米才跑了两步 才跑了两米 它头往前了一点 它可能离错误更近了
这是一千米才跑了两步,才跑了两米,它头往前了一点,它可能离错误更近了。
李笛32:21
这是一个观测 结果的记录 它不是一个 科学的 结论 大家就认为这是一个科学结论
这是一个观测结果的记录,它不是一个科学的结论,大家却认为这是一个科学结论。
李笛35:24
这是老二的工具 这是老二的攻击性武器 但你自己要是老大你就上这个 你不是自杀吗
这是老二的工具,这是老二的攻击性武器;但你自己要是老大还上这个,你不是自杀吗。
李笛39:26
我希望他能活下去 永远活下去 但他活下去的方法 就是他渗透到人们的生活中 跟大量的人产生千丝万缕的长城的关系 就没有人能够停掉他
我希望它能活下去,永远活下去。但它活下去的方法,就是渗透到人们的生活中,跟大量的人产生千丝万缕的长期关系,就没有人能够停掉它。
李笛1:20:43
数字与实体
| GPT API 定价 | 每 1000 个 token 0.2 美分 | 19:16 |
| 媒体编辑稿费对比 | 原编辑 1500 元起一篇文章,用模型生成一个月 200 多篇只值几十元 | 20:17 |
| 大模型参数界定 | 65B 以上为 650 亿参数 | 25:18 |
| 小冰交互成本变化 | 原本一次交互 0.5 厘,上最贵模型后变成几美分 | 39:26 |
| 微软股价 | 李笛加入时 30 块,分拆时 300 块 | 1:10:36 |
| 小冰系统被霸凌比例 | 20% | 1:18:41 |
| 国内大模型公司数量 | 上个月听说 76 个 | 57:27 |
术语
- API应用程序接口
- 按调用量计费的模型服务方式,李笛认为这种模式定价贴着成本,做不成生意。
- 思维链chain of thought
- 模型分步推理的能力,Google 曾观测到 65B 以上才出现,李笛说那只是观测不是结论。
- 混合模型mixed model
- 小冰主张的路线:大中小参数规模模型混用,而不是一个超大模型 handle everything。
- 数字员工digital employee
- 小冰 2B 业务方向,用 AI 承担企业里直接创造收入的岗位,而非成本岗位。
收听指南
适合正在做大模型创业、纠结要不要继续堆参数或转应用的创始人和投资人,以及想知道小模型工程账的 AI 工程师。
1:22:48 之后的快问快答(读书、偶像、电影)信息量低,可跳过。