AI應用沒爆發,不是產品問題是模型問題
GPT-4 出來一年多,硅谷主流 VC 投出的 AI 應用只有 Perplexity 一家跑到 2000 多萬月活;90% 的原因是只基於 GPT-4 的能力不夠,只能做信息組合,做不了長距離推理。
原視頻在 YouTube 上放不出來,用音頻聽:
核心論點 · 點時間戳可跳到原聲
GPT-4 一年後,AI 應用還是無聊的
嘉賓上半年最大的感受是:GPT-4 出來一年多,AI 應用還沒有大爆發,從結果上看比較無聊。拋開大模型公司自身的應用,硅谷主流 VC 投出來的、上一定估值的 AI 應用,他只能想到 Perplexity 一家——2000 多萬月活、2000 多萬美金 ARR,年底有可能做到一個億月活、一個億美金 ARR。其他很多公司還在 PMF 之前。這個判斷是整集討論的起點:不是應用團隊不努力,而是可用的模型能力還撐不起更大的東西。
— 廣密信息檢索是當下最匹配模型能力的場景
嘉賓把知識工作者的創造性任務分成三類:組合性創造、探索性創造、變革性創造。信息檢索屬於組合性創造,是今天模型最能匹配的能力;寫一篇 Tesla 投研報告屬於探索性創造,還要規劃、推理;發現萬有引力定律屬於變革性創造,今天大模型還比較難做到舉一反三,處理沒見過的東西。所以 Perplexity 做的複雜信息問答,剛好切合現有模型能力,是一個相對 fit 的 PMF。他還提到教育可能是第二個匹配的場景。
— 廣密AI 搜索只要搶 Google 一兩個點就很大
Perplexity 最新一輪估值 30 億美金,嘉賓解釋為什麼值這麼多:搜索還是互聯網上最肥最大的市場。微軟 Bing 只有全球搜索 3.4% 的份額,卻產生了 120 億美金的年營收。所以 AI 搜索只要搶到 Google 1% 到 2% 的份額,這個生意就很大。他還提到 Perplexity 單個活躍用戶每天搜索的 query 量是 Google 的三倍還要多,長期留存顯著高於其他 AI 產品,2013 年頭條 APP 的次留大概 46%,Perplexity 的留存跟這個基本一樣。
— 廣密Perplexity 八成概率會被併購
被問到 Perplexity 的終局,嘉賓說八成的可能性是被併購。理由是創業公司今天好像都在巨頭的輻射之下,而且這是一個核心戰場。他舉了 Meta 眼鏡接入語音版 Perplexity、Siri 借一個搜索、微軟 Bing 搞了半天口碑也沒那麼好,而 Perplexity 口碑反而很好。護城河方面,他認為就是先發效應帶來的用戶心智。同時他也承認,Perplexity 在使用頻次、商業化和如何與巨頭錯位競爭上,還有很大的探索空間。
— 廣密應用沒爆發,九成怪模型能力不夠
嘉賓把 AI 原生應用沒有系統性大爆發的原因拆成兩塊:90% 是只基於 GPT-4 的能力水平不夠,只能做信息組合這種創新,沒辦法做長距離推理和創造型工作,所以還是得卷下一代模型,尤其是推理能力和多模態能力;剩下 10% 可能是時間問題,只基於 GPT-4 的能力水平,未來還是有概率做出大應用。他舉了 NLP 二十年誕生搜索、電發明後先有電燈這個 killer app 的例子,認為大家打磨一年多,快有一些 PMF 的意思了,但這裡需要年輕的產品天才。
— 廣密GPT-5 慢,是 GPU 物理世界的建設問題
嘉賓認為 GPT-5 比預期慢,不是 AI 問題,不是數據不夠用,也不是 scaling law 遇到瓶頸,而是實實在在的 GPU 物理世界建設問題。GPT-4 相比 GPT-3 是幾十倍算力提升,GPT-5 相比 GPT-4 今天也就十幾倍算力提升。H100 大批量到貨已經是 2023 年 Q4,機群搭起來需要很多時間,大的 GPU 機群還不穩定,今年初才能做大規模訓練,從拿到 GPU 到真能大規模訓練還需要半年。他預期 GPT-5 年底來,參數比 GPT-4 大三五倍,數據量大七八倍到十倍。
— 廣密大模型不是好商業模式,廣告平臺才是
嘉賓明確說大模型目前肯定沒有廣告平臺商業模式好。ChatGPT 一個多億 DAU,假設 10% 付費、200 美金一年,就是 20 億美金,相比 Google 廣告平臺一年 2000 多億美金營收,還是 1% 到 2%。廣告平臺新增一個用戶,未來 6 到 12 個月能賺回來,ROI 算得清楚;大模型買 GPU 的 ROI 沒法計算,兼具科研屬性、失敗率高。但他也指出,OpenAI 通過 ChatGPT 其實早就把訓練成本賺回來了,虧損主要在探索新模型技術上,這很像藥企的新藥研發。
— 廣密創業公司和大公司是依賴關係,不是顛覆關係
嘉賓總結:創業公司和大公司不是一個顛覆關係,而是一個依賴關係。原因一是 AI 公司還是太花錢,二是巨頭的卡位太好。他舉 OpenAI 的例子:GPU 受限於英偉達,集群搭建受限於微軟,微軟還是 49% 的大股東金主,Azure 是觸達企業客戶最重要的渠道,C 端還逃離不了蘋果,最後還要跪著蘋果弄進去,而蘋果可以分分鐘換掉 ChatGPT。所以 OpenAI 如果真要顛覆,好像只能挑戰一下 Google。這也解釋了為什麼巨頭潛在都還是受益的。
— 廣密原話 · 已逐字校驗
對GP4出來一年多了吧 AI應用還沒有大爆發 從結果上看是比較無聊的
GPT-4 出來一年多了,AI 應用還沒有大爆發,從結果上看是比較無聊的。
廣密2:08
信息檢索還是匹配模型能力最重要的Use Case
信息檢索還是匹配模型能力最重要的 use case。
廣密6:11
對你看創業公司和大公司 好像不是一個顛覆關係 而是一個依賴關係
創業公司和大公司,好像不是一個顛覆關係,而是一個依賴關係。
廣密1:01:43
數字與實體
| Perplexity 最新估值 | 30 億美金 | 11:12 |
| 微軟 Bing 全球搜索份額 | 3.4% | 11:12 |
| 微軟 Bing 年營收 | 120 億美金 | 11:12 |
| GPT-4 每 100 萬 token 輸入定價 | 60 美金 | 35:17 |
| GPT-4o 每 100 萬 token 輸入定價 | 5 美金 | 35:17 |
| GPT-4 每 100 萬 token 輸出定價 | 120 美金 | 35:17 |
| GPT-4o 每 100 萬 token 輸出定價 | 15 美金 | 35:17 |
| ChatGPT DAU | 一個多億 | 45:35 |
術語
- PMF產品市場匹配
- 產品與市場需求達到契合、能自然增長的階段。
- RAG檢索增強生成
- 先檢索外部知識再讓模型生成答案,彌補模型自身知識不足。
- MOE混合專家模型
- 由多個專家子網絡組成、每次只激活部分參數的大模型架構。
- Scaling Law規模定律
- 模型能力隨參數、數據、算力規模增長而提升的經驗規律。
- Latency延遲
- 從發出請求到收到模型響應之間的等待時間。
收聽指南
關注 AI 應用投資與創業的 VC、正在找 PMF 的 AI 產品負責人,以及想理解 GPT-5 為什麼慢、大模型商業模式成不成立的技術與戰略從業者。
1:03:32 之後的中美創新生態對比偏泛泛,可跳過。