世界太吵,來原聲聽播客

All-In

他說AGI去年就實現了,企業落後是因為連會都不敢錄

Ali Ghodsi認為用他們當年AMP實驗室的定義,AGI去年就已達成,但企業卡在第一步——銀行CEO直接拒絕讓AI記錄會議,沒有上下文,再強的模型也幫不上忙。

企業AI落地AI治理遞歸自我改進網絡安全IPO決策組織管理
企業AI落後的四個具體卡點、用AI管理公司自身的實況演示、以及對RSI和doom論的拆解,都是少見的一手細節,值得通聽。

核心論點 · 點時間戳可跳到原聲

9:07

AGI早就達標了,只是大家偷偷挪了門檻

Ali Ghodsi說,按照他和UC Berkeley AMP實驗室在2009、2010年那批人當時對AGI的共識定義,這個標準去年就已經達到了。他專門回去問了當年實驗室的同事自己是不是記錯了,對方確認沒錯,只是行業後來悄悄把目標往後挪了。他認為如果現在停止一切AI進步,現有的智能已經足夠改造整個世界——但這是指所有人類能做的智力工作,不等於Bostrom定義的那種超級智能。

— Ali Ghodsi
12:18

企業AI卡在四個具體問題,不是技術不夠強

Ali Ghodsi說他每天跟客戶開會,發現企業基本只是把AI當成高級版Google搜索和寫代碼工具,代碼提速也只有20-30%。真正的瓶頸是四件事依次卡住:第一,沒有上下文——一家大銀行CEO明確告訴他「不可能錄會議,這輩子都不會」,AI不在會議裡就是沒用;第二,就算拿到數據也怕被黑,訪問權限一開大insider threat和網絡安全風險就上來了;第三,token成本在指數級上漲,但沒有一家公司的收入是跟著指數增長的;第四,用Anthropic或OpenAI的平臺有數據和IP被吸收進下一代模型的風險。

— Ali Ghodsi
23:47

員工滿意度下降不是因為工作強度,AI用數據打臉猜測

Databricks用內部產品Genie分析了一萬多人參與的員工調查,發現「公司是否傾聽員工意見」這項只有60%滿意度,CFO當場猜測是「work-life blend」不好拖累了這項指標。Ali當場在Genie裡一問,系統立刻調出相關性數據證明這兩者不是因果關係,還找出一個具體經理:work-life blend評分低到44,但「公司傾聽」評分高達77%,說明他把員工逼得很緊但同時認真回應訴求。這類分析如果靠人工數據團隊要花一週。

— Ali Ghodsi
29:51

2000名工程師裡,只有一小撮人在用AI自動化工廠

Databricks把2000名工程師每週提交的代碼量畫成圖,發現是明顯的L形分布:頂部一小撮人的產出遠超其他人。調查後發現,這些人是在跑自動化的代碼工廠,其餘人沒有。更反直覺的是,加上成本維度後發現頂部這批高產出的人,花的token成本並不比其他人更高——因為可以把簡單問題路由給更便宜的模型,用開源模型省錢。

— Ali Ghodsi
42:10

不上市是為了不讓股價波動拖垮團隊士氣

Ali Ghodsi說上市的好處是融資便利和營銷曝光,但他更擔心的是股價的情緒化波動:員工把薪酬和股票掛鉤後,股價跌了會覺得「你騙我」要離職,三個月後業績證明判斷錯了股價又漲回去,公司陷入反覆的過山車。他現在靠每年組織內部tender來提供流動性,而且過去幾年發現預留給tender的額度其實都沒被用完,說明大部分員工並不急著套現。

— Ali Ghodsi
46:17

RSI要滿足四個條件,現在一個都沒達成

Ali Ghodsi說光是98%的代碼由AI寫不代表出現了遞歸自我改進(RSI),能不能自動化最後2%根本不重要。真正的RSI需要同時滿足四點:下一代模型訓練時間要超線性地縮短;用的資源要同步減少而不是靠堆硬件換線性提升;準確率要在所有任務上普遍提升而不是單點進步;最後這三條要能持續循環下去,讓訓練成本從上億一路降到幾塊錢。他說目前模型訓練反而越來越久、需要更多人工打磨數據和強化學習gym,這個飛輪根本不存在。

— Ali Ghodsi
49:18

就算有超級智能,沒有機器人也擰不動螺絲

針對法國超市冰箱被黑導致牛奶變質的新聞,Ali Ghodsi說這不是超級智能,只是密碼設成admin admin的普通安全漏洞。他認為就算滿足了RSI的四個條件,要真正威脅到人,也需要一個殺手機器人真的闖進房間把人按倒在地——這種物理能力現在根本不存在,眼下能構成現實風險的只有網絡攻擊。

— Ali Ghodsi
59:26

滅絕風險他打零分,但網絡安全風險他認真對待

Ali Ghodsi說AI研究者很多懂研究但沒看過太多經濟數據,反而被科幻敘事影響,才會出現「10%的人類滅絕概率」這種被當成權威意見的說法。他本人認為那個風險接近於零,但網絡安全風險是真實的,也是Databricks專門做Lakewatch產品去監控的方向。他同時認為AI真正惠及企業、帶動GDP要花幾十年而不是實驗室說的幾個月到兩年,因為連「錄會議」這第一步很多大機構都還沒跨過去。

— Ali Ghodsi

原話 · 已逐字校驗

I actually think we already have artificial general intelligence. I've been saying it since last year.

我其實認為我們已經擁有通用人工智能了。我從去年就開始這麼說。

Ali Ghodsi9:07

They're just using it as a glorified Google search.

他們只是把它當成一個高級版的Google搜索在用。

Ali Ghodsi12:18

So if the token cost is going up exponentially, is your revenue at your company going up exponentially?

如果token成本在指數級上漲,你公司的收入也在指數級上漲嗎?

Ali Ghodsi15:27

Just because 98% of the code is being written by AI, we don't have RSI. If it automates the last 2%, who cares?

就算98%的代碼是AI寫的,也不代表我們有了遞歸自我改進。就算它把最後2%也自動化了,那又怎樣?

Ali Ghodsi46:17

you would have to have a killer robot come into this room right now and wrestle me down

你得有一個殺手機器人現在就闖進這個房間把我按倒在地

Ali Ghodsi48:18

that risk is you know close to zero i think the cyber risk is real and really bad things can happen without

那個風險基本接近於零,我認為網絡安全風險才是真實的,真的會出嚴重問題

Ali Ghodsi59:26

數字與實體

Databricks年化收入70億美元2:02
Databricks年同比增長率80%2:02
2015年Databricks年收入150萬美元2:02
Databricks工程師人數(產出分析樣本)2000人29:51

術語

ontology本體圖譜
Databricks Genie構建的組織知識圖譜,記錄人員、會議、文檔之間的關係
RSI (recursive self-improvement)遞歸自我改進
AI自己改進自己從而不斷加速進化的假設性過程
paperclip maximizer回形針最大化者
Bostrom提出的思想實驗,比喻目標錯位的超級智能可能帶來災難性後果

收聽指南

誰該聽

做企業AI落地、關注Databricks商業模式、以及想了解一線人物如何評價AI doom論的創業者和投資人

可跳過

38:25-44:02關於是否IPO的討論多是標準創投融資邏輯,信息密度相對較低。