世界太吵,来原声听播客

ChinaTalk

美军想让坦克自主开火,卡住的不是AI模型,而是数据

决定坦克、无人车能不能打仗的不是模型架构,而是有没有人愿意持续干采集、标注、治理这些枯燥到没人想做的数据工作。

国防科技数据治理自主武器政府采购数据投毒人工智能

原视频在 YouTube 上放不出来,用音频听:

从坦克装传感器采集数据到乌克兰自主武器的三年积累,再到五角大楼采购体制的真实掣肘,讲清AI武器化的瓶颈到底在哪。

核心论点 · 点时间戳可跳到原声

2:07

「AI就绪数据」本身是个伪命题

Bharat 开场就推翻「AI ready data」这个常被当作目标的说法:数据永远不会真正为AI准备好,数据天生带着各种「怪癖」。真正该先确定的是AI的具体用例,因为用例决定了需要什么样的数据、需要多高的质量——很多团队一开始就把力气用错了地方,先去追求所谓干净完美的数据集,而不是先搞清楚要解决什么问题。

— Bharat Patel
4:18

坦克没有数据,得先造个采集盒

在陆军研究实验室给坦克建计算机视觉模型时,团队发现压根没有现成的坦克数据。于是他们自己造了一个数据采集盒,装在传感器旁边,专门采集二代FLIR影像数据。但这只覆盖了一种传感器类型,坦克上其他传感器的数据没有被采集——而真正的自主能力需要多模态数据融合,不是靠单一传感器能做到的,这是后来才意识到的局限。

— Bharat Patel
9:42

乌克兰的自主武器靠三年悄悄攒数据

今天在乌克兰看到的自主化成果,不是一开始就这样的。早期操作员用手柄遥控设备飞行,录下来的视频数据被持续回收、积累,这个过程很多参与者自己都没意识到。正是这些长年累积的视频数据,后来才支撑起目标识别和自动化能力的训练。而美国国防部目前没有大规模的持续数据采集策略,演习中产生的数据往往事后被删除,或堆进失去上下文的存储区,没人再用。

— Bharat Patel
15:00

政府管数据主权,工业界干90%的活

Bharat 给出的理想分工是:数据的管理权必须留在政府手里,数据管道、流程和治理也由政府负责设计,但执行层面应该尽量外包——数据标注、测试评估、部署、模型训练等各个环节,工业界应该承担大约90%的工作量。关键是政府要把这些环节拆成模块化的合同结构,既能持续和产业界迭代,又不会被单一承包商长期锁死。

— Bharat Patel
21:51

采购提速靠挑对的人,不靠喊口号

谈到近两年五角大楼推行的PAE/CPE采购重组改革时,Bharat 认为这类结构调整没有触及核心问题——真正该做的是让负责交付能力的项目经理(PM)被问责,并拿到匹配的资源。他直言自己「厌倦了」天天喊「要加速」却没人真的加速的局面,真正能让项目提速的做法很简单:把组织里速度最快、最有动力的人集中到高优先级项目上,他们能「搬山」。

— Bharat Patel
28:23

给坦克喷个涂鸦,AI就认不出目标了

数据投毒分两种场景:一种是开源数据生态里,有人出于恶作剧心态故意往开源数据库里塞错误标注或有偏见的数据,模型训练时就把这些偏差学了进去;另一种是实战中的欺骗——在目标上喷漆、涂鸦,模型因为从没见过带涂鸦的目标,就识别不出来了。甚至在电磁频谱层面,敌方可以用一辆装满传感器的马车伪造出「大规模军事行动」的信号特征。

— Bharat Patel
31:27

测试不能测太久,够用就该上场

测试评估不能无限拖长,因为模型最终要进入实战环境才能真正被验证,而且「敌人有投票权,环境有投票权,使用模型的士兵也有投票权」——不存在绝对安全的测试覆盖。更现实的做法是和情报界合作,把敌方已知的欺骗手段(比如给目标喷涂涂鸦)提前做成合成数据,注入训练和测试集,让模型具备识别和应对这类干扰的能力,而不是追求测试覆盖率的极致。

— Bharat Patel
38:50

要把AI和软件彻底拆开更新

目前军用系统的网络安全认证(RMF)把软件当作一个整体来审批,这意味着只更新一个模型也要重新认证整套软件包。Bharat 透露他离职前推动的方向,是把AI(数据和模型)从软件栈里彻底拆分出来,这样模型迭代就不需要拖着整个软件包一起重新走认证流程,从而让自主能力可以像OTA更新一样被快速、频繁地推送到前线装备上。

— Bharat Patel

原话 · 已逐字校验

In my opinion, data will never be AI ready. Data will always have its weirdness about it.

在我看来,数据永远不会真正「为AI准备好」。数据天生就带着各种怪癖。

Bharat Patel2:07

So the team actually had to build a data collection box. They had to build a data collection box. They had to put it right next to the sensor that they wanted the data from.

所以团队实际上得自己造一个数据采集盒。他们得造一个数据采集盒,装在他们想采集数据的那个传感器旁边。

Bharat Patel4:18

So there is a very long period of time where there is an active data collection strategy that was happening in beknownst to the people that were there.

有相当长一段时间,那里其实在执行一套主动的数据采集策略,而身处其中的人自己都不一定知情。

Bharat Patel9:42

I'm so tired of like, you know, we got to go fast. We're going to go fast. And, you know, nobody ever really goes fast.

我真是受够了「我们得加速」「我们要加快」这种话,可实际上从来没人真正加速过。

Bharat Patel21:51

it's still fairly easy to put camouflage over something or just spray paint graffiti over a target and it no longer becomes a target because that model has never seen a target with graffiti on it.

给东西套上伪装,或者直接在目标上喷涂涂鸦,它就不再被识别为目标了,因为模型从没见过带涂鸦的目标。

Bharat Patel30:25

the enemy is going to have a vote, the environment is going to have a vote, the warfighter that's using the model is going to have a vote.

敌人有投票权,环境有投票权,使用这个模型的士兵也有投票权。

Bharat Patel31:27

once the, the shiny toy of products is over, the department is going to realize you need to actually a qualified integration team to make everything work.

一旦对各种产品这个「闪亮玩具」的新鲜劲过去,国防部就会意识到,真正让一切运转起来需要的是一支合格的集成团队。

Bharat Patel38:50

数字与实体

Project Maven 立项年份2016年2:07
Bharat 进入陆军采购系统年份2007年16:11
Titan 项目合成数据探索起始年份约2022年25:07
理想状态下工业界承担的数据管道工作占比约90%15:00
模型可接受的性能门槛参考值80%31:27
Bharat 加入埃森哲时长约6个月38:50

术语

Project Maven「卓越计划」(Project Maven)
美国防部2016年启动的早期AI项目,用计算机视觉识别无人机影像中的目标
CDAO国防部首席数字与AI办公室
负责推动美军AI数据标准、治理和脚手架基础设施的机构
RMF风险管理框架
美军网络安全认证流程,决定软件系统能否获批上线
PAE/CPE组合采购主管/能力项目主管
美军近年新设的采购管理岗位,统筹跨项目的需求与合同权限
second-gen FLIR二代前视红外传感器
坦克等装甲车辆上用于夜视和目标识别的红外成像传感器
SBIR Direct to Phase II小企业创新研究直通二期
美国政府跳过一期、直接向小企业发放二期研发资助的机制

收听指南

谁该听

关注国防科技、AI军事化、政府采购体制的创业者、投资人,以及想了解自主武器真实瓶颈而非炒作的工程师。

可跳过

39:54之后关于埃森哲招聘和自我推介的部分信息量较低,可以跳过。