世界太吵,來原聲聽播客

ChinaTalk

美軍想讓坦克自主開火,卡住的不是AI模型,而是數據

決定坦克、無人車能不能打仗的不是模型架構,而是有沒有人願意持續幹採集、標註、治理這些枯燥到沒人想做的數據工作。

國防科技數據治理自主武器政府採購數據投毒人工智能

原視頻在 YouTube 上放不出來,用音頻聽:

從坦克裝傳感器採集數據到烏克蘭自主武器的三年積累,再到五角大樓採購體制的真實掣肘,講清AI武器化的瓶頸到底在哪。

核心論點 · 點時間戳可跳到原聲

2:07

「AI就緒數據」本身是個偽命題

Bharat 開場就推翻「AI ready data」這個常被當作目標的說法:數據永遠不會真正為AI準備好,數據天生帶著各種「怪癖」。真正該先確定的是AI的具體用例,因為用例決定了需要什麼樣的數據、需要多高的質量——很多團隊一開始就把力氣用錯了地方,先去追求所謂乾淨完美的數據集,而不是先搞清楚要解決什麼問題。

— Bharat Patel
4:18

坦克沒有數據,得先造個採集盒

在陸軍研究實驗室給坦克建計算機視覺模型時,團隊發現壓根沒有現成的坦克數據。於是他們自己造了一個數據採集盒,裝在傳感器旁邊,專門採集二代FLIR影像數據。但這隻覆蓋了一種傳感器類型,坦克上其他傳感器的數據沒有被採集——而真正的自主能力需要多模態數據融合,不是靠單一傳感器能做到的,這是後來才意識到的侷限。

— Bharat Patel
9:42

烏克蘭的自主武器靠三年悄悄攢數據

今天在烏克蘭看到的自主化成果,不是一開始就這樣的。早期操作員用手柄遙控設備飛行,錄下來的視頻數據被持續回收、積累,這個過程很多參與者自己都沒意識到。正是這些長年累積的視頻數據,後來才支撐起目標識別和自動化能力的訓練。而美國國防部目前沒有大規模的持續數據採集策略,演習中產生的數據往往事後被刪除,或堆進失去上下文的存儲區,沒人再用。

— Bharat Patel
15:00

政府管數據主權,工業界幹90%的活

Bharat 給出的理想分工是:數據的管理權必須留在政府手裡,數據管道、流程和治理也由政府負責設計,但執行層面應該儘量外包——數據標註、測試評估、部署、模型訓練等各個環節,工業界應該承擔大約90%的工作量。關鍵是政府要把這些環節拆成模塊化的合同結構,既能持續和產業界迭代,又不會被單一承包商長期鎖死。

— Bharat Patel
21:51

採購提速靠挑對的人,不靠喊口號

談到近兩年五角大樓推行的PAE/CPE採購重組改革時,Bharat 認為這類結構調整沒有觸及核心問題——真正該做的是讓負責交付能力的項目經理(PM)被問責,並拿到匹配的資源。他直言自己「厭倦了」天天喊「要加速」卻沒人真的加速的局面,真正能讓項目提速的做法很簡單:把組織里速度最快、最有動力的人集中到高優先級項目上,他們能「搬山」。

— Bharat Patel
28:23

給坦克噴個塗鴉,AI就認不出目標了

數據投毒分兩種場景:一種是開源數據生態裡,有人出於惡作劇心態故意往開源數據庫裡塞錯誤標註或有偏見的數據,模型訓練時就把這些偏差學了進去;另一種是實戰中的欺騙——在目標上噴漆、塗鴉,模型因為從沒見過帶塗鴉的目標,就識別不出來了。甚至在電磁頻譜層面,敵方可以用一輛裝滿傳感器的馬車偽造出「大規模軍事行動」的信號特徵。

— Bharat Patel
31:27

測試不能測太久,夠用就該上場

測試評估不能無限拖長,因為模型最終要進入實戰環境才能真正被驗證,而且「敵人有投票權,環境有投票權,使用模型的士兵也有投票權」——不存在絕對安全的測試覆蓋。更現實的做法是和情報界合作,把敵方已知的欺騙手段(比如給目標噴塗塗鴉)提前做成合成數據,注入訓練和測試集,讓模型具備識別和應對這類干擾的能力,而不是追求測試覆蓋率的極致。

— Bharat Patel
38:50

要把AI和軟件徹底拆開更新

目前軍用系統的網絡安全認證(RMF)把軟件當作一個整體來審批,這意味著只更新一個模型也要重新認證整套軟件包。Bharat 透露他離職前推動的方向,是把AI(數據和模型)從軟件棧裡徹底拆分出來,這樣模型迭代就不需要拖著整個軟件包一起重新走認證流程,從而讓自主能力可以像OTA更新一樣被快速、頻繁地推送到前線裝備上。

— Bharat Patel

原話 · 已逐字校驗

In my opinion, data will never be AI ready. Data will always have its weirdness about it.

在我看來,數據永遠不會真正「為AI準備好」。數據天生就帶著各種怪癖。

Bharat Patel2:07

So the team actually had to build a data collection box. They had to build a data collection box. They had to put it right next to the sensor that they wanted the data from.

所以團隊實際上得自己造一個數據採集盒。他們得造一個數據採集盒,裝在他們想採集數據的那個傳感器旁邊。

Bharat Patel4:18

So there is a very long period of time where there is an active data collection strategy that was happening in beknownst to the people that were there.

有相當長一段時間,那裡其實在執行一套主動的數據採集策略,而身處其中的人自己都不一定知情。

Bharat Patel9:42

I'm so tired of like, you know, we got to go fast. We're going to go fast. And, you know, nobody ever really goes fast.

我真是受夠了「我們得加速」「我們要加快」這種話,可實際上從來沒人真正加速過。

Bharat Patel21:51

it's still fairly easy to put camouflage over something or just spray paint graffiti over a target and it no longer becomes a target because that model has never seen a target with graffiti on it.

給東西套上偽裝,或者直接在目標上噴塗塗鴉,它就不再被識別為目標了,因為模型從沒見過帶塗鴉的目標。

Bharat Patel30:25

the enemy is going to have a vote, the environment is going to have a vote, the warfighter that's using the model is going to have a vote.

敵人有投票權,環境有投票權,使用這個模型的士兵也有投票權。

Bharat Patel31:27

once the, the shiny toy of products is over, the department is going to realize you need to actually a qualified integration team to make everything work.

一旦對各種產品這個「閃亮玩具」的新鮮勁過去,國防部就會意識到,真正讓一切運轉起來需要的是一支合格的集成團隊。

Bharat Patel38:50

數字與實體

Project Maven 立項年份2016年2:07
Bharat 進入陸軍採購系統年份2007年16:11
Titan 項目合成數據探索起始年份約2022年25:07
理想狀態下工業界承擔的數據管道工作佔比約90%15:00
模型可接受的性能門檻參考值80%31:27
Bharat 加入埃森哲時長約6個月38:50

術語

Project Maven「卓越計劃」(Project Maven)
美國防部2016年啟動的早期AI項目,用計算機視覺識別無人機影像中的目標
CDAO國防部首席數字與AI辦公室
負責推動美軍AI數據標準、治理和腳手架基礎設施的機構
RMF風險管理框架
美軍網絡安全認證流程,決定軟件系統能否獲批上線
PAE/CPE組合採購主管/能力項目主管
美軍近年新設的採購管理崗位,統籌跨項目的需求與合同權限
second-gen FLIR二代前視紅外傳感器
坦克等裝甲車輛上用於夜視和目標識別的紅外成像傳感器
SBIR Direct to Phase II小企業創新研究直通二期
美國政府跳過一期、直接向小企業發放二期研發資助的機制

收聽指南

誰該聽

關注國防科技、AI軍事化、政府採購體制的創業者、投資人,以及想了解自主武器真實瓶頸而非炒作的工程師。

可跳過

39:54之後關於埃森哲招聘和自我推介的部分信息量較低,可以跳過。