他說AGI去年就實現了,企業落後是因為連會都不敢錄
Ali Ghodsi認為用他們當年AMP實驗室的定義,AGI去年就已達成,但企業卡在第一步——銀行CEO直接拒絕讓AI記錄會議,沒有上下文,再強的模型也幫不上忙。
原視頻在 YouTube 上放不出來,用音頻聽:
核心論點 · 點時間戳可跳到原聲
AGI早就達標了,只是大家偷偷挪了門檻
Ali Ghodsi說,按照他和UC Berkeley AMP實驗室在2009、2010年那批人當時對AGI的共識定義,這個標準去年就已經達到了。他專門回去問了當年實驗室的同事自己是不是記錯了,對方確認沒錯,只是行業後來悄悄把目標往後挪了。他認為如果現在停止一切AI進步,現有的智能已經足夠改造整個世界——但這是指所有人類能做的智力工作,不等於Bostrom定義的那種超級智能。
— Ali Ghodsi企業AI卡在四個具體問題,不是技術不夠強
Ali Ghodsi說他每天跟客戶開會,發現企業基本只是把AI當成高級版Google搜索和寫代碼工具,代碼提速也只有20-30%。真正的瓶頸是四件事依次卡住:第一,沒有上下文——一家大銀行CEO明確告訴他「不可能錄會議,這輩子都不會」,AI不在會議裡就是沒用;第二,就算拿到數據也怕被黑,訪問權限一開大insider threat和網絡安全風險就上來了;第三,token成本在指數級上漲,但沒有一家公司的收入是跟著指數增長的;第四,用Anthropic或OpenAI的平臺有數據和IP被吸收進下一代模型的風險。
— Ali Ghodsi員工滿意度下降不是因為工作強度,AI用數據打臉猜測
Databricks用內部產品Genie分析了一萬多人參與的員工調查,發現「公司是否傾聽員工意見」這項只有60%滿意度,CFO當場猜測是「work-life blend」不好拖累了這項指標。Ali當場在Genie裡一問,系統立刻調出相關性數據證明這兩者不是因果關係,還找出一個具體經理:work-life blend評分低到44,但「公司傾聽」評分高達77%,說明他把員工逼得很緊但同時認真回應訴求。這類分析如果靠人工數據團隊要花一週。
— Ali Ghodsi2000名工程師裡,只有一小撮人在用AI自動化工廠
Databricks把2000名工程師每週提交的代碼量畫成圖,發現是明顯的L形分布:頂部一小撮人的產出遠超其他人。調查後發現,這些人是在跑自動化的代碼工廠,其餘人沒有。更反直覺的是,加上成本維度後發現頂部這批高產出的人,花的token成本並不比其他人更高——因為可以把簡單問題路由給更便宜的模型,用開源模型省錢。
— Ali Ghodsi不上市是為了不讓股價波動拖垮團隊士氣
Ali Ghodsi說上市的好處是融資便利和營銷曝光,但他更擔心的是股價的情緒化波動:員工把薪酬和股票掛鉤後,股價跌了會覺得「你騙我」要離職,三個月後業績證明判斷錯了股價又漲回去,公司陷入反覆的過山車。他現在靠每年組織內部tender來提供流動性,而且過去幾年發現預留給tender的額度其實都沒被用完,說明大部分員工並不急著套現。
— Ali GhodsiRSI要滿足四個條件,現在一個都沒達成
Ali Ghodsi說光是98%的代碼由AI寫不代表出現了遞歸自我改進(RSI),能不能自動化最後2%根本不重要。真正的RSI需要同時滿足四點:下一代模型訓練時間要超線性地縮短;用的資源要同步減少而不是靠堆硬件換線性提升;準確率要在所有任務上普遍提升而不是單點進步;最後這三條要能持續循環下去,讓訓練成本從上億一路降到幾塊錢。他說目前模型訓練反而越來越久、需要更多人工打磨數據和強化學習gym,這個飛輪根本不存在。
— Ali Ghodsi就算有超級智能,沒有機器人也擰不動螺絲
針對法國超市冰箱被黑導致牛奶變質的新聞,Ali Ghodsi說這不是超級智能,只是密碼設成admin admin的普通安全漏洞。他認為就算滿足了RSI的四個條件,要真正威脅到人,也需要一個殺手機器人真的闖進房間把人按倒在地——這種物理能力現在根本不存在,眼下能構成現實風險的只有網絡攻擊。
— Ali Ghodsi滅絕風險他打零分,但網絡安全風險他認真對待
Ali Ghodsi說AI研究者很多懂研究但沒看過太多經濟數據,反而被科幻敘事影響,才會出現「10%的人類滅絕概率」這種被當成權威意見的說法。他本人認為那個風險接近於零,但網絡安全風險是真實的,也是Databricks專門做Lakewatch產品去監控的方向。他同時認為AI真正惠及企業、帶動GDP要花幾十年而不是實驗室說的幾個月到兩年,因為連「錄會議」這第一步很多大機構都還沒跨過去。
— Ali Ghodsi原話 · 已逐字校驗
I actually think we already have artificial general intelligence. I've been saying it since last year.
我其實認為我們已經擁有通用人工智能了。我從去年就開始這麼說。
Ali Ghodsi9:07
They're just using it as a glorified Google search.
他們只是把它當成一個高級版的Google搜索在用。
Ali Ghodsi12:18
So if the token cost is going up exponentially, is your revenue at your company going up exponentially?
如果token成本在指數級上漲,你公司的收入也在指數級上漲嗎?
Ali Ghodsi15:27
Just because 98% of the code is being written by AI, we don't have RSI. If it automates the last 2%, who cares?
就算98%的代碼是AI寫的,也不代表我們有了遞歸自我改進。就算它把最後2%也自動化了,那又怎樣?
Ali Ghodsi46:17
you would have to have a killer robot come into this room right now and wrestle me down
你得有一個殺手機器人現在就闖進這個房間把我按倒在地
Ali Ghodsi48:18
that risk is you know close to zero i think the cyber risk is real and really bad things can happen without
那個風險基本接近於零,我認為網絡安全風險才是真實的,真的會出嚴重問題
Ali Ghodsi59:26
數字與實體
| Databricks年化收入 | 70億美元 | 2:02 |
| Databricks年同比增長率 | 80% | 2:02 |
| 2015年Databricks年收入 | 150萬美元 | 2:02 |
| Databricks工程師人數(產出分析樣本) | 2000人 | 29:51 |
術語
- ontology本體圖譜
- Databricks Genie構建的組織知識圖譜,記錄人員、會議、文檔之間的關係
- RSI (recursive self-improvement)遞歸自我改進
- AI自己改進自己從而不斷加速進化的假設性過程
- paperclip maximizer回形針最大化者
- Bostrom提出的思想實驗,比喻目標錯位的超級智能可能帶來災難性後果
收聽指南
做企業AI落地、關注Databricks商業模式、以及想了解一線人物如何評價AI doom論的創業者和投資人
38:25-44:02關於是否IPO的討論多是標準創投融資邏輯,信息密度相對較低。