美国政府的AI预算两年前就定死,却要追着算力账单跑
国会拨款的预算周期要两年起步,但大模型和算力账单按月变化;真正的解法不是省钱,而是让预算能在不同模型、不同用途之间打通调配。
原视频在 YouTube 上放不出来,用音频听:
核心论点 · 点时间戳可跳到原声
外交电报项目证明软件正在变得极度便宜
Koven 讲述自己在国务院做的一个项目:用自然语言处理从每天约3000份外交电报里提取洞见,原本动用六人团队耗时六个月。他说如果放到今天,两个人花几周就能做到同等甚至更好的效果。这不是夸张的类比,而是他亲身带队做过同一类项目后,对比新旧工具链给出的真实判断——软件工程成本的坍缩,已经体现在政府信息处理的具体工作量上。
— Barnett Koven测外交AI靠不靠谱:让它和真人分析员对答
Koven 提出一个具体的评估方法:把同样的提示词同时给模型和负责俄罗斯事务的真人分析官,比较两边结论。如果高度一致,说明两者要么都判断对了,要么都带着同一种偏见做出同样错误的判断——他称之为镜像认知偏差(mirror imaging),即分析者下意识假设对手国的决策逻辑和自己一样。如果两者结论分歧,那分歧点本身才是真正值得深挖的地方,可能发现模型推理的漏洞,也可能发现人类没想到的新角度。
— Barnett Koven拆穿空壳公司:把分散数据库拼成一张关系网
出口管制的执行难点不在于该不该管,而在于如何在合法的空壳公司(多数跨国公司都有子公司)里找出真正为规避管制服务的那一批。Koven 介绍 AFS 用实体解析(entity resolution)技术,把彭博、标普等商业数据和政府专有数据合并成一张企业关系主数据库,从而能够判断一家此前完全陌生的空壳公司,经过七层其他公司中转后,实际连接着解放军的某个采购机构。
— Barnett Koven别迷信狂烧token:秘诀是把生成式AI当调味料
面对 Meta 因为员工token消耗不够而裁人、SemiAnalysis 一个分析师一个季度烧5万美元这类故事,Koven 认为企业级场景的正确方向恰恰相反:让经过几十年验证的传统机器学习承担80%到90%的工作,因为它确定、好用、成本低;生成式和agentic AI只放在传统方法处理不好的小众环节上。这样既压低总体拥有成本,又能靠确定性流程在能确定的地方拿到更好结果——他把这种混合架构称为「秘诀」。
— Barnett Koven政府预算两年前就锁死,算力账单却按月变
美国联邦预算的现实是今年的拨款大约两年前就已经决定,但大模型订阅费、token消耗量、云厂商算力账单却在以远快于预算周期的速度变化。Koven 认为唯一现实的出路,是在预算内部建立更大的「可替换性」——这个模型的token和那个模型的token之间、这个用例和那个用例之间可以互相调配,并且把预算颗粒度从单个办公室上升到整个部门去聚合,同时配上财务运营(FinOps)机制保证可问责,而不是逐项锁死用途。
— Barnett Koven机密网络里的AI对抗:进攻线性,防守指数级
进入IL6以上的机密环境后,大模型不是同一天就能部署最新版本,真正的顾虑不是算力不够,而是数据会不会外泄、模型是否已经被对手「投毒」。Koven 直言,如果他是对方情报机构的人,并不难推测出美方情报分析官会想用大模型做什么,进而提前布局。他把这种态势形容为一场攻防竞赛:进攻一方的成本随时间线性增长,防守一方的成本却呈指数级上升——这意味着在机密领域里,占便宜的天然是进攻方。
— Barnett Koven学术发表的偏见,让政府交了重复的学费
Koven 用自己做反叛乱研究的经历举例:早期多数研究认为发展援助能减少暴力,但他借用癌症研究里的空间扩散模型重新分析后发现,援助往往只是把暴力转移甚至放大到周边村庄——结论恰恰相反。问题是,他和同行此前大量「没达到统计显著性」的失败尝试从未被发表,导致其他团队重复踩坑,美国政府在不知情的情况下持续投入援助,代价不只是财政,还包括美军人员的伤亡。
— Barnett Koven被扔掉的百年旧数据,可能藏着关键矿产答案
DOE的Genesis mission想解决的,是科研「失败数据」从不被保留和共享的问题。Koven 举例:铍可以从多种矿石中提炼,一百年前因为成本高而被放弃的某些矿石数据,如今可能因为对手国垄断了供应链而重新变得关键;尾矿里过去当废料扔掉的矿物,现在也可能值得重新提取。配套的解决方案是基于角色和属性的访问控制(RBAC/ABAC),可以精细到按行、按列决定谁能看哪部分数据,这样数据才敢在国家实验室、高校和国际合作者之间按需共享而不失控。
— Barnett Koven原话 · 已逐字校验
the Department of State sends back on order of 3,000 cables between sort of post and sort of headquarters in D.C. every day
国务院每天大约发回3000份电报,往返于驻外使馆和华盛顿总部之间。
Barnett Koven3:05
We pay people in the U.S. government all the time to go really deep on Russia, really deep on China, whoever the adversary de jure is.
我们总是花钱让美国政府里的人去深入研究俄罗斯、深入研究中国,不管当下的对手是谁。
Barnett Koven9:33
80 percent of the work that a high end sort of data science team is actually sort of relatively run of the mill data engineering
一个高水平数据科学团队80%的工作,其实只是相对平淡的数据工程。
Barnett Koven16:48
how can we sort of bring in sort of the traditional non generative AI ML that has been tried and true for decades, have that be 80 or 90% of the solution because it works and works well
我们该怎么把经过几十年验证的传统非生成式AI/机器学习用进来,让它承担80%到90%的解决方案,因为它好用、而且确实有效。
Barnett Koven22:02
This sort of her sort of most powerful insight was inaction is in and of itself risky.
她最有力的洞见是:不作为本身就是一种风险。
Barnett Koven27:15
this is a bit of a gun armor race where in the cost of the sort of offense increases linearly over time, where the cost of sort of the defense increases exponentially.
这有点像一场攻防竞赛:进攻方的成本随时间线性增长,而防守方的成本却呈指数级增长。
Barnett Koven28:17
And what I ended up finding was that on average, you actually only serve to displace and possibly exacerbate the violence.
我最终发现的是,平均而言,援助只是把暴力转移了,甚至可能让暴力更严重。
Barnett Koven32:28
beryllium is a great example, can be actually made from a number of different types of ore, some of which have not been sort of commercially viable in the past
铍就是一个很好的例子,它可以从多种矿石中提炼出来,其中一些矿石过去在商业上并不划算。
Barnett Koven37:43
数字与实体
| 国务院每日外交电报量 | 约3000份/天 | 3:05 |
| AFS服务联邦政府的专职员工数 | 约15,000人 | 18:54 |
| Accenture全球员工数 | 约800,000人 | 18:54 |
| Genesis mission签约公司数 | 26家 | 29:17 |
术语
- mirror imaging镜像认知偏差
- 分析者下意识用己方逻辑揣测对手决策,导致误判对方真实意图
- entity resolution实体解析
- 把分散在不同数据库中指向同一实体的记录识别并合并
- RBAC/ABAC基于角色/属性的访问控制
- 按身份或属性自动决定谁能看哪部分数据,可细到行列级
- IL6机密等级6级网络
- 美国政府机密信息系统的安全分级,门槛高于普通政府云环境
- FinOps云财务运营管理
- 对云算力与token消费做追踪问责的管理机制
- Genesis mission能源部生成式AI行动
- 美国能源部联合26家科技公司推动政府AI能力的协议
收听指南
关注美国政府如何采购落地AI、关心出口管制执行机制、以及对科研数据共享与开放科学感兴趣的从业者和政策研究者。
开场2分钟的个人履历介绍(从反叛乱博士研究到进入咨询行业)信息量低,可跳过。