他说AGI去年就实现了,企业落后是因为连会都不敢录
Ali Ghodsi认为用他们当年AMP实验室的定义,AGI去年就已达成,但企业卡在第一步——银行CEO直接拒绝让AI记录会议,没有上下文,再强的模型也帮不上忙。
原视频在 YouTube 上放不出来,用音频听:
核心论点 · 点时间戳可跳到原声
AGI早就达标了,只是大家偷偷挪了门槛
Ali Ghodsi说,按照他和UC Berkeley AMP实验室在2009、2010年那批人当时对AGI的共识定义,这个标准去年就已经达到了。他专门回去问了当年实验室的同事自己是不是记错了,对方确认没错,只是行业后来悄悄把目标往后挪了。他认为如果现在停止一切AI进步,现有的智能已经足够改造整个世界——但这是指所有人类能做的智力工作,不等于Bostrom定义的那种超级智能。
— Ali Ghodsi企业AI卡在四个具体问题,不是技术不够强
Ali Ghodsi说他每天跟客户开会,发现企业基本只是把AI当成高级版Google搜索和写代码工具,代码提速也只有20-30%。真正的瓶颈是四件事依次卡住:第一,没有上下文——一家大银行CEO明确告诉他「不可能录会议,这辈子都不会」,AI不在会议里就是没用;第二,就算拿到数据也怕被黑,访问权限一开大insider threat和网络安全风险就上来了;第三,token成本在指数级上涨,但没有一家公司的收入是跟着指数增长的;第四,用Anthropic或OpenAI的平台有数据和IP被吸收进下一代模型的风险。
— Ali Ghodsi员工满意度下降不是因为工作强度,AI用数据打脸猜测
Databricks用内部产品Genie分析了一万多人参与的员工调查,发现「公司是否倾听员工意见」这项只有60%满意度,CFO当场猜测是「work-life blend」不好拖累了这项指标。Ali当场在Genie里一问,系统立刻调出相关性数据证明这两者不是因果关系,还找出一个具体经理:work-life blend评分低到44,但「公司倾听」评分高达77%,说明他把员工逼得很紧但同时认真回应诉求。这类分析如果靠人工数据团队要花一周。
— Ali Ghodsi2000名工程师里,只有一小撮人在用AI自动化工厂
Databricks把2000名工程师每周提交的代码量画成图,发现是明显的L形分布:顶部一小撮人的产出远超其他人。调查后发现,这些人是在跑自动化的代码工厂,其余人没有。更反直觉的是,加上成本维度后发现顶部这批高产出的人,花的token成本并不比其他人更高——因为可以把简单问题路由给更便宜的模型,用开源模型省钱。
— Ali Ghodsi不上市是为了不让股价波动拖垮团队士气
Ali Ghodsi说上市的好处是融资便利和营销曝光,但他更担心的是股价的情绪化波动:员工把薪酬和股票挂钩后,股价跌了会觉得「你骗我」要离职,三个月后业绩证明判断错了股价又涨回去,公司陷入反复的过山车。他现在靠每年组织内部tender来提供流动性,而且过去几年发现预留给tender的额度其实都没被用完,说明大部分员工并不急着套现。
— Ali GhodsiRSI要满足四个条件,现在一个都没达成
Ali Ghodsi说光是98%的代码由AI写不代表出现了递归自我改进(RSI),能不能自动化最后2%根本不重要。真正的RSI需要同时满足四点:下一代模型训练时间要超线性地缩短;用的资源要同步减少而不是靠堆硬件换线性提升;准确率要在所有任务上普遍提升而不是单点进步;最后这三条要能持续循环下去,让训练成本从上亿一路降到几块钱。他说目前模型训练反而越来越久、需要更多人工打磨数据和强化学习gym,这个飞轮根本不存在。
— Ali Ghodsi就算有超级智能,没有机器人也拧不动螺丝
针对法国超市冰箱被黑导致牛奶变质的新闻,Ali Ghodsi说这不是超级智能,只是密码设成admin admin的普通安全漏洞。他认为就算满足了RSI的四个条件,要真正威胁到人,也需要一个杀手机器人真的闯进房间把人按倒在地——这种物理能力现在根本不存在,眼下能构成现实风险的只有网络攻击。
— Ali Ghodsi灭绝风险他打零分,但网络安全风险他认真对待
Ali Ghodsi说AI研究者很多懂研究但没看过太多经济数据,反而被科幻叙事影响,才会出现「10%的人类灭绝概率」这种被当成权威意见的说法。他本人认为那个风险接近于零,但网络安全风险是真实的,也是Databricks专门做Lakewatch产品去监控的方向。他同时认为AI真正惠及企业、带动GDP要花几十年而不是实验室说的几个月到两年,因为连「录会议」这第一步很多大机构都还没跨过去。
— Ali Ghodsi原话 · 已逐字校验
I actually think we already have artificial general intelligence. I've been saying it since last year.
我其实认为我们已经拥有通用人工智能了。我从去年就开始这么说。
Ali Ghodsi9:07
They're just using it as a glorified Google search.
他们只是把它当成一个高级版的Google搜索在用。
Ali Ghodsi12:18
So if the token cost is going up exponentially, is your revenue at your company going up exponentially?
如果token成本在指数级上涨,你公司的收入也在指数级上涨吗?
Ali Ghodsi15:27
Just because 98% of the code is being written by AI, we don't have RSI. If it automates the last 2%, who cares?
就算98%的代码是AI写的,也不代表我们有了递归自我改进。就算它把最后2%也自动化了,那又怎样?
Ali Ghodsi46:17
you would have to have a killer robot come into this room right now and wrestle me down
你得有一个杀手机器人现在就闯进这个房间把我按倒在地
Ali Ghodsi48:18
that risk is you know close to zero i think the cyber risk is real and really bad things can happen without
那个风险基本接近于零,我认为网络安全风险才是真实的,真的会出严重问题
Ali Ghodsi59:26
数字与实体
| Databricks年化收入 | 70亿美元 | 2:02 |
| Databricks年同比增长率 | 80% | 2:02 |
| 2015年Databricks年收入 | 150万美元 | 2:02 |
| Databricks工程师人数(产出分析样本) | 2000人 | 29:51 |
术语
- ontology本体图谱
- Databricks Genie构建的组织知识图谱,记录人员、会议、文档之间的关系
- RSI (recursive self-improvement)递归自我改进
- AI自己改进自己从而不断加速进化的假设性过程
- paperclip maximizer回形针最大化者
- Bostrom提出的思想实验,比喻目标错位的超级智能可能带来灾难性后果
收听指南
做企业AI落地、关注Databricks商业模式、以及想了解一线人物如何评价AI doom论的创业者和投资人
38:25-44:02关于是否IPO的讨论多是标准创投融资逻辑,信息密度相对较低。