世界太吵,来原声听播客

All-In

他说AGI去年就实现了,企业落后是因为连会都不敢录

Ali Ghodsi认为用他们当年AMP实验室的定义,AGI去年就已达成,但企业卡在第一步——银行CEO直接拒绝让AI记录会议,没有上下文,再强的模型也帮不上忙。

企业AI落地AI治理递归自我改进网络安全IPO决策组织管理
企业AI落后的四个具体卡点、用AI管理公司自身的实况演示、以及对RSI和doom论的拆解,都是少见的一手细节,值得通听。

核心论点 · 点时间戳可跳到原声

9:07

AGI早就达标了,只是大家偷偷挪了门槛

Ali Ghodsi说,按照他和UC Berkeley AMP实验室在2009、2010年那批人当时对AGI的共识定义,这个标准去年就已经达到了。他专门回去问了当年实验室的同事自己是不是记错了,对方确认没错,只是行业后来悄悄把目标往后挪了。他认为如果现在停止一切AI进步,现有的智能已经足够改造整个世界——但这是指所有人类能做的智力工作,不等于Bostrom定义的那种超级智能。

— Ali Ghodsi
12:18

企业AI卡在四个具体问题,不是技术不够强

Ali Ghodsi说他每天跟客户开会,发现企业基本只是把AI当成高级版Google搜索和写代码工具,代码提速也只有20-30%。真正的瓶颈是四件事依次卡住:第一,没有上下文——一家大银行CEO明确告诉他「不可能录会议,这辈子都不会」,AI不在会议里就是没用;第二,就算拿到数据也怕被黑,访问权限一开大insider threat和网络安全风险就上来了;第三,token成本在指数级上涨,但没有一家公司的收入是跟着指数增长的;第四,用Anthropic或OpenAI的平台有数据和IP被吸收进下一代模型的风险。

— Ali Ghodsi
23:47

员工满意度下降不是因为工作强度,AI用数据打脸猜测

Databricks用内部产品Genie分析了一万多人参与的员工调查,发现「公司是否倾听员工意见」这项只有60%满意度,CFO当场猜测是「work-life blend」不好拖累了这项指标。Ali当场在Genie里一问,系统立刻调出相关性数据证明这两者不是因果关系,还找出一个具体经理:work-life blend评分低到44,但「公司倾听」评分高达77%,说明他把员工逼得很紧但同时认真回应诉求。这类分析如果靠人工数据团队要花一周。

— Ali Ghodsi
29:51

2000名工程师里,只有一小撮人在用AI自动化工厂

Databricks把2000名工程师每周提交的代码量画成图,发现是明显的L形分布:顶部一小撮人的产出远超其他人。调查后发现,这些人是在跑自动化的代码工厂,其余人没有。更反直觉的是,加上成本维度后发现顶部这批高产出的人,花的token成本并不比其他人更高——因为可以把简单问题路由给更便宜的模型,用开源模型省钱。

— Ali Ghodsi
42:10

不上市是为了不让股价波动拖垮团队士气

Ali Ghodsi说上市的好处是融资便利和营销曝光,但他更担心的是股价的情绪化波动:员工把薪酬和股票挂钩后,股价跌了会觉得「你骗我」要离职,三个月后业绩证明判断错了股价又涨回去,公司陷入反复的过山车。他现在靠每年组织内部tender来提供流动性,而且过去几年发现预留给tender的额度其实都没被用完,说明大部分员工并不急着套现。

— Ali Ghodsi
46:17

RSI要满足四个条件,现在一个都没达成

Ali Ghodsi说光是98%的代码由AI写不代表出现了递归自我改进(RSI),能不能自动化最后2%根本不重要。真正的RSI需要同时满足四点:下一代模型训练时间要超线性地缩短;用的资源要同步减少而不是靠堆硬件换线性提升;准确率要在所有任务上普遍提升而不是单点进步;最后这三条要能持续循环下去,让训练成本从上亿一路降到几块钱。他说目前模型训练反而越来越久、需要更多人工打磨数据和强化学习gym,这个飞轮根本不存在。

— Ali Ghodsi
49:18

就算有超级智能,没有机器人也拧不动螺丝

针对法国超市冰箱被黑导致牛奶变质的新闻,Ali Ghodsi说这不是超级智能,只是密码设成admin admin的普通安全漏洞。他认为就算满足了RSI的四个条件,要真正威胁到人,也需要一个杀手机器人真的闯进房间把人按倒在地——这种物理能力现在根本不存在,眼下能构成现实风险的只有网络攻击。

— Ali Ghodsi
59:26

灭绝风险他打零分,但网络安全风险他认真对待

Ali Ghodsi说AI研究者很多懂研究但没看过太多经济数据,反而被科幻叙事影响,才会出现「10%的人类灭绝概率」这种被当成权威意见的说法。他本人认为那个风险接近于零,但网络安全风险是真实的,也是Databricks专门做Lakewatch产品去监控的方向。他同时认为AI真正惠及企业、带动GDP要花几十年而不是实验室说的几个月到两年,因为连「录会议」这第一步很多大机构都还没跨过去。

— Ali Ghodsi

原话 · 已逐字校验

I actually think we already have artificial general intelligence. I've been saying it since last year.

我其实认为我们已经拥有通用人工智能了。我从去年就开始这么说。

Ali Ghodsi9:07

They're just using it as a glorified Google search.

他们只是把它当成一个高级版的Google搜索在用。

Ali Ghodsi12:18

So if the token cost is going up exponentially, is your revenue at your company going up exponentially?

如果token成本在指数级上涨,你公司的收入也在指数级上涨吗?

Ali Ghodsi15:27

Just because 98% of the code is being written by AI, we don't have RSI. If it automates the last 2%, who cares?

就算98%的代码是AI写的,也不代表我们有了递归自我改进。就算它把最后2%也自动化了,那又怎样?

Ali Ghodsi46:17

you would have to have a killer robot come into this room right now and wrestle me down

你得有一个杀手机器人现在就闯进这个房间把我按倒在地

Ali Ghodsi48:18

that risk is you know close to zero i think the cyber risk is real and really bad things can happen without

那个风险基本接近于零,我认为网络安全风险才是真实的,真的会出严重问题

Ali Ghodsi59:26

数字与实体

Databricks年化收入70亿美元2:02
Databricks年同比增长率80%2:02
2015年Databricks年收入150万美元2:02
Databricks工程师人数(产出分析样本)2000人29:51

术语

ontology本体图谱
Databricks Genie构建的组织知识图谱,记录人员、会议、文档之间的关系
RSI (recursive self-improvement)递归自我改进
AI自己改进自己从而不断加速进化的假设性过程
paperclip maximizer回形针最大化者
Bostrom提出的思想实验,比喻目标错位的超级智能可能带来灾难性后果

收听指南

谁该听

做企业AI落地、关注Databricks商业模式、以及想了解一线人物如何评价AI doom论的创业者和投资人

可跳过

38:25-44:02关于是否IPO的讨论多是标准创投融资逻辑,信息密度相对较低。