世界太吵,來原聲聽播客

ChinaTalk

美國政府的AI預算兩年前就定死,卻要追著算力賬單跑

國會撥款的預算週期要兩年起步,但大模型和算力賬單按月變化;真正的解法不是省錢,而是讓預算能在不同模型、不同用途之間打通調配。

聯邦政府AI出口管制科研數據共享預算與算力機密網絡安全

原視頻在 YouTube 上放不出來,用音頻聽:

後半段信息量更大:出口管制如何揪出空殼公司、機密網絡裡的模型投毒風險、科研數據被埋沒的問題,都比開場履歷更值得聽。

核心論點 · 點時間戳可跳到原聲

3:05

外交電報項目證明軟件正在變得極度便宜

Koven 講述自己在國務院做的一個項目:用自然語言處理從每天約3000份外交電報裡提取洞見,原本動用六人團隊耗時六個月。他說如果放到今天,兩個人花幾週就能做到同等甚至更好的效果。這不是誇張的類比,而是他親身帶隊做過同一類項目後,對比新舊工具鏈給出的真實判斷——軟件工程成本的坍縮,已經體現在政府信息處理的具體工作量上。

— Barnett Koven
9:33

測外交AI靠不靠譜:讓它和真人分析員對答

Koven 提出一個具體的評估方法:把同樣的提示詞同時給模型和負責俄羅斯事務的真人分析官,比較兩邊結論。如果高度一致,說明兩者要麼都判斷對了,要麼都帶著同一種偏見做出同樣錯誤的判斷——他稱之為鏡像認知偏差(mirror imaging),即分析者下意識假設對手國的決策邏輯和自己一樣。如果兩者結論分歧,那分歧點本身才是真正值得深挖的地方,可能發現模型推理的漏洞,也可能發現人類沒想到的新角度。

— Barnett Koven
14:44

拆穿空殼公司:把分散數據庫拼成一張關係網

出口管制的執行難點不在於該不該管,而在於如何在合法的空殼公司(多數跨國公司都有子公司)裡找出真正為規避管制服務的那一批。Koven 介紹 AFS 用實體解析(entity resolution)技術,把彭博、標普等商業數據和政府專有數據合併成一張企業關係主數據庫,從而能夠判斷一家此前完全陌生的空殼公司,經過七層其他公司中轉後,實際連接著解放軍的某個採購機構。

— Barnett Koven
22:02

別迷信狂燒token:秘訣是把生成式AI當調味料

面對 Meta 因為員工token消耗不夠而裁人、SemiAnalysis 一個分析師一個季度燒5萬美元這類故事,Koven 認為企業級場景的正確方向恰恰相反:讓經過幾十年驗證的傳統機器學習承擔80%到90%的工作,因為它確定、好用、成本低;生成式和agentic AI只放在傳統方法處理不好的小眾環節上。這樣既壓低總體擁有成本,又能靠確定性流程在能確定的地方拿到更好結果——他把這種混合架構稱為「秘訣」。

— Barnett Koven
24:09

政府預算兩年前就鎖死,算力賬單卻按月變

美國聯邦預算的現實是今年的撥款大約兩年前就已經決定,但大模型訂閱費、token消耗量、雲廠商算力賬單卻在以遠快於預算週期的速度變化。Koven 認為唯一現實的出路,是在預算內部建立更大的「可替換性」——這個模型的token和那個模型的token之間、這個用例和那個用例之間可以互相調配,並且把預算顆粒度從單個辦公室上升到整個部門去聚合,同時配上財務運營(FinOps)機制保證可問責,而不是逐項鎖死用途。

— Barnett Koven
27:15

機密網絡裡的AI對抗:進攻線性,防守指數級

進入IL6以上的機密環境後,大模型不是同一天就能部署最新版本,真正的顧慮不是算力不夠,而是數據會不會外洩、模型是否已經被對手「投毒」。Koven 直言,如果他是對方情報機構的人,並不難推測出美方情報分析官會想用大模型做什麼,進而提前布局。他把這種態勢形容為一場攻防競賽:進攻一方的成本隨時間線性增長,防守一方的成本卻呈指數級上升——這意味著在機密領域裡,佔便宜的天然是進攻方。

— Barnett Koven
32:28

學術發表的偏見,讓政府交了重複的學費

Koven 用自己做反叛亂研究的經歷舉例:早期多數研究認為發展援助能減少暴力,但他借用癌症研究裡的空間擴散模型重新分析後發現,援助往往只是把暴力轉移甚至放大到周邊村莊——結論恰恰相反。問題是,他和同行此前大量「沒達到統計顯著性」的失敗嘗試從未被發表,導致其他團隊重複踩坑,美國政府在不知情的情況下持續投入援助,代價不只是財政,還包括美軍人員的傷亡。

— Barnett Koven
37:43

被扔掉的百年舊數據,可能藏著關鍵礦產答案

DOE的Genesis mission想解決的,是科研「失敗數據」從不被保留和共享的問題。Koven 舉例:鈹可以從多種礦石中提煉,一百年前因為成本高而被放棄的某些礦石數據,如今可能因為對手國壟斷了供應鏈而重新變得關鍵;尾礦裡過去當廢料扔掉的礦物,現在也可能值得重新提取。配套的解決方案是基於角色和屬性的訪問控制(RBAC/ABAC),可以精細到按行、按列決定誰能看哪部分數據,這樣數據才敢在國家實驗室、高校和國際合作者之間按需共享而不失控。

— Barnett Koven

原話 · 已逐字校驗

the Department of State sends back on order of 3,000 cables between sort of post and sort of headquarters in D.C. every day

國務院每天大約發回3000份電報,往返於駐外使館和華盛頓總部之間。

Barnett Koven3:05

We pay people in the U.S. government all the time to go really deep on Russia, really deep on China, whoever the adversary de jure is.

我們總是花錢讓美國政府裡的人去深入研究俄羅斯、深入研究中國,不管當下的對手是誰。

Barnett Koven9:33

80 percent of the work that a high end sort of data science team is actually sort of relatively run of the mill data engineering

一個高水平數據科學團隊80%的工作,其實只是相對平淡的數據工程。

Barnett Koven16:48

how can we sort of bring in sort of the traditional non generative AI ML that has been tried and true for decades, have that be 80 or 90% of the solution because it works and works well

我們該怎麼把經過幾十年驗證的傳統非生成式AI/機器學習用進來,讓它承擔80%到90%的解決方案,因為它好用、而且確實有效。

Barnett Koven22:02

This sort of her sort of most powerful insight was inaction is in and of itself risky.

她最有力的洞見是:不作為本身就是一種風險。

Barnett Koven27:15

this is a bit of a gun armor race where in the cost of the sort of offense increases linearly over time, where the cost of sort of the defense increases exponentially.

這有點像一場攻防競賽:進攻方的成本隨時間線性增長,而防守方的成本卻呈指數級增長。

Barnett Koven28:17

And what I ended up finding was that on average, you actually only serve to displace and possibly exacerbate the violence.

我最終發現的是,平均而言,援助只是把暴力轉移了,甚至可能讓暴力更嚴重。

Barnett Koven32:28

beryllium is a great example, can be actually made from a number of different types of ore, some of which have not been sort of commercially viable in the past

鈹就是一個很好的例子,它可以從多種礦石中提煉出來,其中一些礦石過去在商業上並不划算。

Barnett Koven37:43

數字與實體

國務院每日外交電報量約3000份/天3:05
AFS服務聯邦政府的專職員工數約15,000人18:54
Accenture全球員工數約800,000人18:54
Genesis mission簽約公司數26家29:17

術語

mirror imaging鏡像認知偏差
分析者下意識用己方邏輯揣測對手決策,導致誤判對方真實意圖
entity resolution實體解析
把分散在不同數據庫中指向同一實體的記錄識別併合並
RBAC/ABAC基於角色/屬性的訪問控制
按身份或屬性自動決定誰能看哪部分數據,可細到行列級
IL6機密等級6級網絡
美國政府機密信息系統的安全分級,門檻高於普通政府雲環境
FinOps雲財務運營管理
對雲算力與token消費做追蹤問責的管理機制
Genesis mission能源部生成式AI行動
美國能源部聯合26家科技公司推動政府AI能力的協議

收聽指南

誰該聽

關注美國政府如何採購落地AI、關心出口管制執行機制、以及對科研數據共享與開放科學感興趣的從業者和政策研究者。

可跳過

開場2分鐘的個人履歷介紹(從反叛亂博士研究到進入諮詢行業)信息量低,可跳過。