模型公司終將消失,產品公司才剛開始
齊帆超認為模型本身沒法直接產生價值,將來不存在模型公司;他融了近4億卻主動放棄訓更大模型,轉而解決大模型輸出不確定性這個產品落地的最大卡點。
原視頻在 YouTube 上放不出來,用音頻聽:
核心論點 · 點時間戳可跳到原聲
訓更大模型的價值在23年下半年變小
23年上半年齊帆超還在講技術差異化,比如在 pre-train 階段提前增加指令遵循能力、處理長結構化內容。但到23年下半年八九月份,他發現所有玩家都湧進同一賽道,原來想到的差異化要麼別人也看到了,要麼別人已經在做,再想出新差異化越來越難。更關鍵的是,他判斷直接訓大模型對達成產品目標的增益在變小,於是做了戰略轉型:轉向那些光靠現成大模型、即使不斷 scale 也解決不好的問題。
— 齊帆超將來不存在模型公司
齊帆超不認可「模型即產品」,也不認為 AGI 會在三五年內到來。他的判斷是:模型本身沒法直接產生價值,所以模型公司必須找到特定場景或產品方向來轉換成價值,最終會變成產品公司。他用理想汽車做類比——純電技術會一直進步,但理想選擇增程式混動,在電池基礎上加油箱和發電機做備電,部分解決續航焦慮,產品化速度就能更快,最終也贏得用戶認可。
— 齊帆超把大模型的犯錯概率壓到有限範圍
齊帆超認為大模型最大的挑戰是它是概率模型,加上需要多樣性,一體兩面就是幻覺和意想不到的錯誤。他的解法是把大模型控制在相對有限的空間內:對輸入做前向操作,用更確定性的方式縮小發揮空間;對輸出做後向操作,用知識庫等手段校驗結果。他提到陸奇也認為模型魯棒性、穩定性不足是阻礙大模型產品落地最重要的原因之一。他不認同光靠 RAG 能解決幻覺——AI 搜索核心就是 RAG,但回答仍可能搜到 A 卻答出 B。
— 齊帆超內容只是信息的載體
齊帆超把信息定義為「把你的不確定性降低」。同一件事可以通過文章、音頻、視頻、朋友圈等不同內容載體獲取,消費完得到的東西是一樣的。由此他判斷:過去所謂的信息分發,做的其實是內容分發,最小顆粒度是一篇文章、一個視頻。但對用戶來說,消費完整內容並不一定是獲取信息最高效的方式,因為裡面必然有低價值時間。他的產品思路是把內容解構成最小信息單元,再按用戶興趣重組成新內容。
— 齊帆超內容鏈路的重心一直往消費者移
齊帆超回溯內容產業:互聯網之前生產端話語權強,創作者社會地位高;互聯網和移動互聯網之後自媒體湧現,創作門檻降低,分發平臺話語權變強;他判斷將來內容消費者的話語權會更強,因為 AI 讓內容供給越來越過剩、生產成本一直降低。他甚至認為即使自己不做,這個變化也一定會發生,是底層社會發展規律。對創作者,他認為上游源頭信息和內容仍然非常有價值,但交付的東西會變,可能提供的是用於 AI 加工的語料。
— 齊帆超創業像航海,沒有航海圖
齊帆超說,當你沒有航海圖時,難度和不確定性比有航海圖時下降的可能是好幾個數量級。他拿哥倫布打比方:哥倫布相信沿大西洋繼續往前走能找到印度,但沒人驗證,只是心裡的信念,過程中有大量挑戰,最後他也沒到印度,到的是北美。齊帆超說創業尤其是想做差異化、別人沒做過的事情時,沒法按圖索驥,只能相信自己內心的信念,遇到什麼問題解決什麼問題。
— 齊帆超我幹過一件很蠢的事
齊帆超自述:他很 J,願意把所有事變得 organized,有一天把公司所有人的郵箱名改成統一格式,後面加編號。事後看收益沒有成本高——不是技術成本,是大家的切換成本高,原來註冊的賬號都會受影響。他由此引申:世界的熵增是必然趨勢,想降低熵就要付出成本,所以要考慮 ROI 是不是正的,為降低某些環節的熵付出的成本是不是值得。
— 齊帆超模型的不確定性會一層層影響組織
齊帆超認為 AI 公司組織形態和互聯網公司最大的不同來自底層不確定性:互聯網技術是確定性的,目標節奏更明確,分工協作難度低;但大模型輸出不確定性非常高,連算法工程師都說不清能不能做成、什麼時候做成。這會一層層影響組織怎麼定目標、不同團隊怎麼配合、信息能不能更快拉齊。他的結論是 AI 公司的信息傳遞效率和一致度必須更高,個體要覆蓋的鏈路要更長,因為只知道自己環節很難理解上下游對自己的影響。
— 齊帆超原話 · 已逐字校驗
我認為可能將來是不存在模型系產品 可能也不存在所謂的模型公司的 因為模型本身它是沒法直接產生價值的
我認為可能將來是不存在模型系產品,可能也不存在所謂的模型公司的,因為模型本身它是沒法直接產生價值的。
齊帆超0:00
我覺得這句話既對也不對 我可以說模型永遠都在變好 比如說它是以多長時間的尺度 幾年三四年 還是十年八年 還是幾十年的尺度
我覺得這句話既對也不對。我可以說模型永遠都在變好,比如說它是以多長時間的尺度——幾年三四年,還是十年八年,還是幾十年的尺度。
齊帆超30:24
內容只是信息的載體 內容是信息的載體 對 你怎麼定義信息 信息其實就是把你的 不確定性降低
內容只是信息的載體。內容就是信息的載體。對。你怎麼定義信息?信息其實就是把你的不確定性降低。
齊帆超44:52
就是當你沒有一個航海圖的時候 你的難度和不確定性 比你有了一個航海圖 尤其是有人告訴你 怎麼總能到達一個彼岸的時候 這個不確定性下降的 可能是你難以想像的 是有好幾個數量級的下降的
就是當你沒有一個航海圖的時候,你的難度和不確定性,比你有了一個航海圖、尤其是有人告訴你怎麼能到達一個彼岸的時候,這個不確定性下降的可能是你難以想像的,是有好幾個數量級的下降的。
齊帆超1:13:02
我是底層相信說 只要這個產品真的給用戶帶來了不可替代的價值的話 它是一定能夠去通過各種方式賺到錢的
我是底層相信說,只要這個產品真的給用戶帶來了不可替代的價值的話,它是一定能夠去通過各種方式賺到錢的。
齊帆超1:39:19
數字與實體
| 公司估值 | 12億元人民幣 | 1:00 |
| 公司創立時間 | 2022年3月17日 | 1:00 |
| 融資輪次 | A加輪 | 1:00 |
| 創始人年齡 | 94年生,上個月剛滿30歲 | 1:00 |
| 21年下半年到22年中見投資人數量 | 不下100個投資機構 | 17:19 |
| 奇蹟創談路演後聊過的投資人 | 陸續聊了六七十個 | 17:19 |
| 當時想訓的模型規模 | 10B到20B量級 | 18:19 |
| 訓模型預估投入 | 千萬級 | 18:19 |
| 公司人數 | 60多人 | 1:22:07 |
術語
- conditioned generation條件生成
- 給定現成內容或信息,從中生成符合指定輸入的內容。
- RAG檢索增強生成
- 先檢索相關文檔再讓模型基於文檔回答,可緩解知識更新問題。
- PMF產品市場契合
- 產品真正被市場接受、用戶願意持續使用的狀態。
- MVP最小可行產品
- 用最少功能驗證產品方向的第一版產品。
- Foundation Model基礎模型
- Stanford 提出的概念,指大規模預訓練後可遷移到多種任務的模型。
收聽指南
關注 AI 應用層創業、內容分發產品、以及大模型公司終局判斷的創業者和投資人。
1:23:18 到 1:27:11 關於90後CEO性格、畫餅、信息差管理的問答,信息密度較低。