美國政府的AI預算兩年前就定死,卻要追著算力賬單跑
國會撥款的預算週期要兩年起步,但大模型和算力賬單按月變化;真正的解法不是省錢,而是讓預算能在不同模型、不同用途之間打通調配。
原視頻在 YouTube 上放不出來,用音頻聽:
核心論點 · 點時間戳可跳到原聲
外交電報項目證明軟件正在變得極度便宜
Koven 講述自己在國務院做的一個項目:用自然語言處理從每天約3000份外交電報裡提取洞見,原本動用六人團隊耗時六個月。他說如果放到今天,兩個人花幾週就能做到同等甚至更好的效果。這不是誇張的類比,而是他親身帶隊做過同一類項目後,對比新舊工具鏈給出的真實判斷——軟件工程成本的坍縮,已經體現在政府信息處理的具體工作量上。
— Barnett Koven測外交AI靠不靠譜:讓它和真人分析員對答
Koven 提出一個具體的評估方法:把同樣的提示詞同時給模型和負責俄羅斯事務的真人分析官,比較兩邊結論。如果高度一致,說明兩者要麼都判斷對了,要麼都帶著同一種偏見做出同樣錯誤的判斷——他稱之為鏡像認知偏差(mirror imaging),即分析者下意識假設對手國的決策邏輯和自己一樣。如果兩者結論分歧,那分歧點本身才是真正值得深挖的地方,可能發現模型推理的漏洞,也可能發現人類沒想到的新角度。
— Barnett Koven拆穿空殼公司:把分散數據庫拼成一張關係網
出口管制的執行難點不在於該不該管,而在於如何在合法的空殼公司(多數跨國公司都有子公司)裡找出真正為規避管制服務的那一批。Koven 介紹 AFS 用實體解析(entity resolution)技術,把彭博、標普等商業數據和政府專有數據合併成一張企業關係主數據庫,從而能夠判斷一家此前完全陌生的空殼公司,經過七層其他公司中轉後,實際連接著解放軍的某個採購機構。
— Barnett Koven別迷信狂燒token:秘訣是把生成式AI當調味料
面對 Meta 因為員工token消耗不夠而裁人、SemiAnalysis 一個分析師一個季度燒5萬美元這類故事,Koven 認為企業級場景的正確方向恰恰相反:讓經過幾十年驗證的傳統機器學習承擔80%到90%的工作,因為它確定、好用、成本低;生成式和agentic AI只放在傳統方法處理不好的小眾環節上。這樣既壓低總體擁有成本,又能靠確定性流程在能確定的地方拿到更好結果——他把這種混合架構稱為「秘訣」。
— Barnett Koven政府預算兩年前就鎖死,算力賬單卻按月變
美國聯邦預算的現實是今年的撥款大約兩年前就已經決定,但大模型訂閱費、token消耗量、雲廠商算力賬單卻在以遠快於預算週期的速度變化。Koven 認為唯一現實的出路,是在預算內部建立更大的「可替換性」——這個模型的token和那個模型的token之間、這個用例和那個用例之間可以互相調配,並且把預算顆粒度從單個辦公室上升到整個部門去聚合,同時配上財務運營(FinOps)機制保證可問責,而不是逐項鎖死用途。
— Barnett Koven機密網絡裡的AI對抗:進攻線性,防守指數級
進入IL6以上的機密環境後,大模型不是同一天就能部署最新版本,真正的顧慮不是算力不夠,而是數據會不會外洩、模型是否已經被對手「投毒」。Koven 直言,如果他是對方情報機構的人,並不難推測出美方情報分析官會想用大模型做什麼,進而提前布局。他把這種態勢形容為一場攻防競賽:進攻一方的成本隨時間線性增長,防守一方的成本卻呈指數級上升——這意味著在機密領域裡,佔便宜的天然是進攻方。
— Barnett Koven學術發表的偏見,讓政府交了重複的學費
Koven 用自己做反叛亂研究的經歷舉例:早期多數研究認為發展援助能減少暴力,但他借用癌症研究裡的空間擴散模型重新分析後發現,援助往往只是把暴力轉移甚至放大到周邊村莊——結論恰恰相反。問題是,他和同行此前大量「沒達到統計顯著性」的失敗嘗試從未被發表,導致其他團隊重複踩坑,美國政府在不知情的情況下持續投入援助,代價不只是財政,還包括美軍人員的傷亡。
— Barnett Koven被扔掉的百年舊數據,可能藏著關鍵礦產答案
DOE的Genesis mission想解決的,是科研「失敗數據」從不被保留和共享的問題。Koven 舉例:鈹可以從多種礦石中提煉,一百年前因為成本高而被放棄的某些礦石數據,如今可能因為對手國壟斷了供應鏈而重新變得關鍵;尾礦裡過去當廢料扔掉的礦物,現在也可能值得重新提取。配套的解決方案是基於角色和屬性的訪問控制(RBAC/ABAC),可以精細到按行、按列決定誰能看哪部分數據,這樣數據才敢在國家實驗室、高校和國際合作者之間按需共享而不失控。
— Barnett Koven原話 · 已逐字校驗
the Department of State sends back on order of 3,000 cables between sort of post and sort of headquarters in D.C. every day
國務院每天大約發回3000份電報,往返於駐外使館和華盛頓總部之間。
Barnett Koven3:05
We pay people in the U.S. government all the time to go really deep on Russia, really deep on China, whoever the adversary de jure is.
我們總是花錢讓美國政府裡的人去深入研究俄羅斯、深入研究中國,不管當下的對手是誰。
Barnett Koven9:33
80 percent of the work that a high end sort of data science team is actually sort of relatively run of the mill data engineering
一個高水平數據科學團隊80%的工作,其實只是相對平淡的數據工程。
Barnett Koven16:48
how can we sort of bring in sort of the traditional non generative AI ML that has been tried and true for decades, have that be 80 or 90% of the solution because it works and works well
我們該怎麼把經過幾十年驗證的傳統非生成式AI/機器學習用進來,讓它承擔80%到90%的解決方案,因為它好用、而且確實有效。
Barnett Koven22:02
This sort of her sort of most powerful insight was inaction is in and of itself risky.
她最有力的洞見是:不作為本身就是一種風險。
Barnett Koven27:15
this is a bit of a gun armor race where in the cost of the sort of offense increases linearly over time, where the cost of sort of the defense increases exponentially.
這有點像一場攻防競賽:進攻方的成本隨時間線性增長,而防守方的成本卻呈指數級增長。
Barnett Koven28:17
And what I ended up finding was that on average, you actually only serve to displace and possibly exacerbate the violence.
我最終發現的是,平均而言,援助只是把暴力轉移了,甚至可能讓暴力更嚴重。
Barnett Koven32:28
beryllium is a great example, can be actually made from a number of different types of ore, some of which have not been sort of commercially viable in the past
鈹就是一個很好的例子,它可以從多種礦石中提煉出來,其中一些礦石過去在商業上並不划算。
Barnett Koven37:43
數字與實體
| 國務院每日外交電報量 | 約3000份/天 | 3:05 |
| AFS服務聯邦政府的專職員工數 | 約15,000人 | 18:54 |
| Accenture全球員工數 | 約800,000人 | 18:54 |
| Genesis mission簽約公司數 | 26家 | 29:17 |
術語
- mirror imaging鏡像認知偏差
- 分析者下意識用己方邏輯揣測對手決策,導致誤判對方真實意圖
- entity resolution實體解析
- 把分散在不同數據庫中指向同一實體的記錄識別併合並
- RBAC/ABAC基於角色/屬性的訪問控制
- 按身份或屬性自動決定誰能看哪部分數據,可細到行列級
- IL6機密等級6級網絡
- 美國政府機密信息系統的安全分級,門檻高於普通政府雲環境
- FinOps雲財務運營管理
- 對雲算力與token消費做追蹤問責的管理機制
- Genesis mission能源部生成式AI行動
- 美國能源部聯合26家科技公司推動政府AI能力的協議
收聽指南
關注美國政府如何採購落地AI、關心出口管制執行機制、以及對科研數據共享與開放科學感興趣的從業者和政策研究者。
開場2分鐘的個人履歷介紹(從反叛亂博士研究到進入諮詢行業)信息量低,可跳過。