AI应用没爆发,不是产品问题是模型问题
GPT-4 出来一年多,硅谷主流 VC 投出的 AI 应用只有 Perplexity 一家跑到 2000 多万月活;90% 的原因是只基于 GPT-4 的能力不够,只能做信息组合,做不了长距离推理。
原视频在 YouTube 上放不出来,用音频听:
核心论点 · 点时间戳可跳到原声
GPT-4 一年后,AI 应用还是无聊的
嘉宾上半年最大的感受是:GPT-4 出来一年多,AI 应用还没有大爆发,从结果上看比较无聊。抛开大模型公司自身的应用,硅谷主流 VC 投出来的、上一定估值的 AI 应用,他只能想到 Perplexity 一家——2000 多万月活、2000 多万美金 ARR,年底有可能做到一个亿月活、一个亿美金 ARR。其他很多公司还在 PMF 之前。这个判断是整集讨论的起点:不是应用团队不努力,而是可用的模型能力还撑不起更大的东西。
— 广密信息检索是当下最匹配模型能力的场景
嘉宾把知识工作者的创造性任务分成三类:组合性创造、探索性创造、变革性创造。信息检索属于组合性创造,是今天模型最能匹配的能力;写一篇 Tesla 投研报告属于探索性创造,还要规划、推理;发现万有引力定律属于变革性创造,今天大模型还比较难做到举一反三,处理没见过的东西。所以 Perplexity 做的复杂信息问答,刚好切合现有模型能力,是一个相对 fit 的 PMF。他还提到教育可能是第二个匹配的场景。
— 广密AI 搜索只要抢 Google 一两个点就很大
Perplexity 最新一轮估值 30 亿美金,嘉宾解释为什么值这么多:搜索还是互联网上最肥最大的市场。微软 Bing 只有全球搜索 3.4% 的份额,却产生了 120 亿美金的年营收。所以 AI 搜索只要抢到 Google 1% 到 2% 的份额,这个生意就很大。他还提到 Perplexity 单个活跃用户每天搜索的 query 量是 Google 的三倍还要多,长期留存显著高于其他 AI 产品,2013 年头条 APP 的次留大概 46%,Perplexity 的留存跟这个基本一样。
— 广密Perplexity 八成概率会被并购
被问到 Perplexity 的终局,嘉宾说八成的可能性是被并购。理由是创业公司今天好像都在巨头的辐射之下,而且这是一个核心战场。他举了 Meta 眼镜接入语音版 Perplexity、Siri 借一个搜索、微软 Bing 搞了半天口碑也没那么好,而 Perplexity 口碑反而很好。护城河方面,他认为就是先发效应带来的用户心智。同时他也承认,Perplexity 在使用频次、商业化和如何与巨头错位竞争上,还有很大的探索空间。
— 广密应用没爆发,九成怪模型能力不够
嘉宾把 AI 原生应用没有系统性大爆发的原因拆成两块:90% 是只基于 GPT-4 的能力水平不够,只能做信息组合这种创新,没办法做长距离推理和创造型工作,所以还是得卷下一代模型,尤其是推理能力和多模态能力;剩下 10% 可能是时间问题,只基于 GPT-4 的能力水平,未来还是有概率做出大应用。他举了 NLP 二十年诞生搜索、电发明后先有电灯这个 killer app 的例子,认为大家打磨一年多,快有一些 PMF 的意思了,但这里需要年轻的产品天才。
— 广密GPT-5 慢,是 GPU 物理世界的建设问题
嘉宾认为 GPT-5 比预期慢,不是 AI 问题,不是数据不够用,也不是 scaling law 遇到瓶颈,而是实实在在的 GPU 物理世界建设问题。GPT-4 相比 GPT-3 是几十倍算力提升,GPT-5 相比 GPT-4 今天也就十几倍算力提升。H100 大批量到货已经是 2023 年 Q4,机群搭起来需要很多时间,大的 GPU 机群还不稳定,今年初才能做大规模训练,从拿到 GPU 到真能大规模训练还需要半年。他预期 GPT-5 年底来,参数比 GPT-4 大三五倍,数据量大七八倍到十倍。
— 广密大模型不是好商业模式,广告平台才是
嘉宾明确说大模型目前肯定没有广告平台商业模式好。ChatGPT 一个多亿 DAU,假设 10% 付费、200 美金一年,就是 20 亿美金,相比 Google 广告平台一年 2000 多亿美金营收,还是 1% 到 2%。广告平台新增一个用户,未来 6 到 12 个月能赚回来,ROI 算得清楚;大模型买 GPU 的 ROI 没法计算,兼具科研属性、失败率高。但他也指出,OpenAI 通过 ChatGPT 其实早就把训练成本赚回来了,亏损主要在探索新模型技术上,这很像药企的新药研发。
— 广密创业公司和大公司是依赖关系,不是颠覆关系
嘉宾总结:创业公司和大公司不是一个颠覆关系,而是一个依赖关系。原因一是 AI 公司还是太花钱,二是巨头的卡位太好。他举 OpenAI 的例子:GPU 受限于英伟达,集群搭建受限于微软,微软还是 49% 的大股东金主,Azure 是触达企业客户最重要的渠道,C 端还逃离不了苹果,最后还要跪着苹果弄进去,而苹果可以分分钟换掉 ChatGPT。所以 OpenAI 如果真要颠覆,好像只能挑战一下 Google。这也解释了为什么巨头潜在都还是受益的。
— 广密原话 · 已逐字校验
对GP4出来一年多了吧 AI应用还没有大爆发 从结果上看是比较无聊的
GPT-4 出来一年多了,AI 应用还没有大爆发,从结果上看是比较无聊的。
广密2:08
信息检索还是匹配模型能力最重要的Use Case
信息检索还是匹配模型能力最重要的 use case。
广密6:11
对你看创业公司和大公司 好像不是一个颠覆关系 而是一个依赖关系
创业公司和大公司,好像不是一个颠覆关系,而是一个依赖关系。
广密1:01:43
数字与实体
| Perplexity 最新估值 | 30 亿美金 | 11:12 |
| 微软 Bing 全球搜索份额 | 3.4% | 11:12 |
| 微软 Bing 年营收 | 120 亿美金 | 11:12 |
| GPT-4 每 100 万 token 输入定价 | 60 美金 | 35:17 |
| GPT-4o 每 100 万 token 输入定价 | 5 美金 | 35:17 |
| GPT-4 每 100 万 token 输出定价 | 120 美金 | 35:17 |
| GPT-4o 每 100 万 token 输出定价 | 15 美金 | 35:17 |
| ChatGPT DAU | 一个多亿 | 45:35 |
术语
- PMF产品市场匹配
- 产品与市场需求达到契合、能自然增长的阶段。
- RAG检索增强生成
- 先检索外部知识再让模型生成答案,弥补模型自身知识不足。
- MOE混合专家模型
- 由多个专家子网络组成、每次只激活部分参数的大模型架构。
- Scaling Law规模定律
- 模型能力随参数、数据、算力规模增长而提升的经验规律。
- Latency延迟
- 从发出请求到收到模型响应之间的等待时间。
收听指南
关注 AI 应用投资与创业的 VC、正在找 PMF 的 AI 产品负责人,以及想理解 GPT-5 为什么慢、大模型商业模式成不成立的技术与战略从业者。
1:03:32 之后的中美创新生态对比偏泛泛,可跳过。