世界太吵,来原声听播客

ChinaTalk

美国政府的AI预算两年前就定死,却要追着算力账单跑

国会拨款的预算周期要两年起步,但大模型和算力账单按月变化;真正的解法不是省钱,而是让预算能在不同模型、不同用途之间打通调配。

联邦政府AI出口管制科研数据共享预算与算力机密网络安全

原视频在 YouTube 上放不出来,用音频听:

后半段信息量更大:出口管制如何揪出空壳公司、机密网络里的模型投毒风险、科研数据被埋没的问题,都比开场履历更值得听。

核心论点 · 点时间戳可跳到原声

3:05

外交电报项目证明软件正在变得极度便宜

Koven 讲述自己在国务院做的一个项目:用自然语言处理从每天约3000份外交电报里提取洞见,原本动用六人团队耗时六个月。他说如果放到今天,两个人花几周就能做到同等甚至更好的效果。这不是夸张的类比,而是他亲身带队做过同一类项目后,对比新旧工具链给出的真实判断——软件工程成本的坍缩,已经体现在政府信息处理的具体工作量上。

— Barnett Koven
9:33

测外交AI靠不靠谱:让它和真人分析员对答

Koven 提出一个具体的评估方法:把同样的提示词同时给模型和负责俄罗斯事务的真人分析官,比较两边结论。如果高度一致,说明两者要么都判断对了,要么都带着同一种偏见做出同样错误的判断——他称之为镜像认知偏差(mirror imaging),即分析者下意识假设对手国的决策逻辑和自己一样。如果两者结论分歧,那分歧点本身才是真正值得深挖的地方,可能发现模型推理的漏洞,也可能发现人类没想到的新角度。

— Barnett Koven
14:44

拆穿空壳公司:把分散数据库拼成一张关系网

出口管制的执行难点不在于该不该管,而在于如何在合法的空壳公司(多数跨国公司都有子公司)里找出真正为规避管制服务的那一批。Koven 介绍 AFS 用实体解析(entity resolution)技术,把彭博、标普等商业数据和政府专有数据合并成一张企业关系主数据库,从而能够判断一家此前完全陌生的空壳公司,经过七层其他公司中转后,实际连接着解放军的某个采购机构。

— Barnett Koven
22:02

别迷信狂烧token:秘诀是把生成式AI当调味料

面对 Meta 因为员工token消耗不够而裁人、SemiAnalysis 一个分析师一个季度烧5万美元这类故事,Koven 认为企业级场景的正确方向恰恰相反:让经过几十年验证的传统机器学习承担80%到90%的工作,因为它确定、好用、成本低;生成式和agentic AI只放在传统方法处理不好的小众环节上。这样既压低总体拥有成本,又能靠确定性流程在能确定的地方拿到更好结果——他把这种混合架构称为「秘诀」。

— Barnett Koven
24:09

政府预算两年前就锁死,算力账单却按月变

美国联邦预算的现实是今年的拨款大约两年前就已经决定,但大模型订阅费、token消耗量、云厂商算力账单却在以远快于预算周期的速度变化。Koven 认为唯一现实的出路,是在预算内部建立更大的「可替换性」——这个模型的token和那个模型的token之间、这个用例和那个用例之间可以互相调配,并且把预算颗粒度从单个办公室上升到整个部门去聚合,同时配上财务运营(FinOps)机制保证可问责,而不是逐项锁死用途。

— Barnett Koven
27:15

机密网络里的AI对抗:进攻线性,防守指数级

进入IL6以上的机密环境后,大模型不是同一天就能部署最新版本,真正的顾虑不是算力不够,而是数据会不会外泄、模型是否已经被对手「投毒」。Koven 直言,如果他是对方情报机构的人,并不难推测出美方情报分析官会想用大模型做什么,进而提前布局。他把这种态势形容为一场攻防竞赛:进攻一方的成本随时间线性增长,防守一方的成本却呈指数级上升——这意味着在机密领域里,占便宜的天然是进攻方。

— Barnett Koven
32:28

学术发表的偏见,让政府交了重复的学费

Koven 用自己做反叛乱研究的经历举例:早期多数研究认为发展援助能减少暴力,但他借用癌症研究里的空间扩散模型重新分析后发现,援助往往只是把暴力转移甚至放大到周边村庄——结论恰恰相反。问题是,他和同行此前大量「没达到统计显著性」的失败尝试从未被发表,导致其他团队重复踩坑,美国政府在不知情的情况下持续投入援助,代价不只是财政,还包括美军人员的伤亡。

— Barnett Koven
37:43

被扔掉的百年旧数据,可能藏着关键矿产答案

DOE的Genesis mission想解决的,是科研「失败数据」从不被保留和共享的问题。Koven 举例:铍可以从多种矿石中提炼,一百年前因为成本高而被放弃的某些矿石数据,如今可能因为对手国垄断了供应链而重新变得关键;尾矿里过去当废料扔掉的矿物,现在也可能值得重新提取。配套的解决方案是基于角色和属性的访问控制(RBAC/ABAC),可以精细到按行、按列决定谁能看哪部分数据,这样数据才敢在国家实验室、高校和国际合作者之间按需共享而不失控。

— Barnett Koven

原话 · 已逐字校验

the Department of State sends back on order of 3,000 cables between sort of post and sort of headquarters in D.C. every day

国务院每天大约发回3000份电报,往返于驻外使馆和华盛顿总部之间。

Barnett Koven3:05

We pay people in the U.S. government all the time to go really deep on Russia, really deep on China, whoever the adversary de jure is.

我们总是花钱让美国政府里的人去深入研究俄罗斯、深入研究中国,不管当下的对手是谁。

Barnett Koven9:33

80 percent of the work that a high end sort of data science team is actually sort of relatively run of the mill data engineering

一个高水平数据科学团队80%的工作,其实只是相对平淡的数据工程。

Barnett Koven16:48

how can we sort of bring in sort of the traditional non generative AI ML that has been tried and true for decades, have that be 80 or 90% of the solution because it works and works well

我们该怎么把经过几十年验证的传统非生成式AI/机器学习用进来,让它承担80%到90%的解决方案,因为它好用、而且确实有效。

Barnett Koven22:02

This sort of her sort of most powerful insight was inaction is in and of itself risky.

她最有力的洞见是:不作为本身就是一种风险。

Barnett Koven27:15

this is a bit of a gun armor race where in the cost of the sort of offense increases linearly over time, where the cost of sort of the defense increases exponentially.

这有点像一场攻防竞赛:进攻方的成本随时间线性增长,而防守方的成本却呈指数级增长。

Barnett Koven28:17

And what I ended up finding was that on average, you actually only serve to displace and possibly exacerbate the violence.

我最终发现的是,平均而言,援助只是把暴力转移了,甚至可能让暴力更严重。

Barnett Koven32:28

beryllium is a great example, can be actually made from a number of different types of ore, some of which have not been sort of commercially viable in the past

铍就是一个很好的例子,它可以从多种矿石中提炼出来,其中一些矿石过去在商业上并不划算。

Barnett Koven37:43

数字与实体

国务院每日外交电报量约3000份/天3:05
AFS服务联邦政府的专职员工数约15,000人18:54
Accenture全球员工数约800,000人18:54
Genesis mission签约公司数26家29:17

术语

mirror imaging镜像认知偏差
分析者下意识用己方逻辑揣测对手决策,导致误判对方真实意图
entity resolution实体解析
把分散在不同数据库中指向同一实体的记录识别并合并
RBAC/ABAC基于角色/属性的访问控制
按身份或属性自动决定谁能看哪部分数据,可细到行列级
IL6机密等级6级网络
美国政府机密信息系统的安全分级,门槛高于普通政府云环境
FinOps云财务运营管理
对云算力与token消费做追踪问责的管理机制
Genesis mission能源部生成式AI行动
美国能源部联合26家科技公司推动政府AI能力的协议

收听指南

谁该听

关注美国政府如何采购落地AI、关心出口管制执行机制、以及对科研数据共享与开放科学感兴趣的从业者和政策研究者。

可跳过

开场2分钟的个人履历介绍(从反叛乱博士研究到进入咨询行业)信息量低,可跳过。