能驗證美中AI協議的技術，全球只有約50人在做
美中若想就AI減速達成協議，核心難題是互信；驗證技術就是把這種互信工程化成可檢查的證據——但目前全球做這件事的工程師，用個位數的團隊規模就能數完。
原視頻在 YouTube 上放不出來，用音頻聽：
核心論點 · 時間戳為按文稿位置估算
驗證的靶子是算力，不是人
把開發AI所需的投入拆開看，可以分成員工、算法與數據、算力三類。Milton把算力選作切入點，理由是算力高度專用於AI場景，需要數千塊芯片，而且現階段這些芯片必須集中放在同一個物理地點——這讓核查算力比核查員工行為或審查代碼容易得多。這也是為什麼如果美中要談AI減速協議，算力會是最先被盯上、也最容易驗證的那個環節。
— Tom Milton推理重算：讓GPU自證清白
Amodo的原型做法是在數據中心的前端網絡上裝一個網絡分流器，把流量複製一份送到驗證方手裡的服務器，重新跑一遍同樣的輸入token，再核對輸出是否一致（用DiFR算法處理模型本身的隨機性）。只要網絡上所有流量都能被這次重算解釋清楚，就能證明這塊算力只在做推理；一旦出現重算解釋不了的「多餘」網絡通信，就說明背後還有一個沒被申報的訓練任務在跑。
— Tom Milton電流波動也會洩露模型秘密
節目現場演示：給GPU電源繞一個電感線圈接到示波器上，跑一次nanoGPT的訓練，就能在功耗曲線上清楚看到前向傳播、反向傳播和空閒期，甚至能從層與層之間的小尖峰數出這是一個12層模型。這類原本被黑客用來竊取信息的「側信道」，反過來可以用來監測算力在做什麼。但Milton也承認，在整個數據中心級別很難做到像單塊GPU這麼精確，頂多是能被部分偽裝、但會付出效率代價的「指紋」。
— Tom Milton核武核查先例：互相去對方國土試儀器
在籤成《部分禁止核試驗條約》之前，美蘇並不是直接互相信任，而是搞了一次聯合驗證實驗：蘇聯科學家去美國、美國科學家去蘇聯，在對方的基礎設施上實地測試自己那套用來探測核爆地震波的監測設備是否真的管用。Milton認為AI驗證技術也需要走同樣的路——在真正籤協議之前，得先讓各方的紅隊去對方（或測試環境）的數據中心裡，實打實地試圖攻破或驗證這套系統。
— Tom Milton化武核查的"保密結果"模式可以照搬
《禁止化學武器公約》的現場核查員帶質譜儀去企業化工廠，但儀器有一個「保密模式」：不把完整的化學成分譜圖報出來，只給一個合規/不合規的通過或不通過結果，用來保護企業的商業機密。Milton希望AI驗證能走同一條路——既能證明一家公司遵守了國際協議，又不必交出模型權重或用戶的輸入輸出內容。但他也提醒，這些技術並不完全類比：AI變化速度可能快得多，而過去的核查體系是花了幾十年才談成的。
— Tom Milton今天入場，年底可能躋身世界前五
Milton判斷，如果各大實驗室在驗證上真的只投入了一兩個人，那麼一個真正有才華的AI安全研究者今天開始專注做算力驗證，到年底很可能就已經是全世界在這件事上最有用的五個人之一。他把這件事的分量提到極高：如果你是實驗室裡的安全或安全工程研究員，你離「讓AI走好這條路」拿諾貝爾獎最近的一條路，很可能就是去開發出能支撐一份國際協議的驗證工具。
— Tom Milton連他自己也不敢說驗證是必需品
被追問驗證技術是否真的不可或缺時，Milton的回答很剋制：他認為不必追求完美的、形式化證明級別的「防中國作弊」系統，國際協調向來也摻雜著信任、諜報和人盯人的成分，就像核裁軍條約裡靠衛星清點轟炸機數量那樣。他把驗證技術定位成一種「可選項」——一年前幾乎沒人提它，現在從實驗室基層員工到政府都在呼籲，所以它看起來越來越像是會被用到的東西，但他承認沒人能百分之百證明它是必要的。
— Tom Milton被斷供一天，他突然懂了英國的處境
Milton講了自己連續三天「Claude精神錯亂」式地用Fable 5一次性設計硬件電路的經歷——直到某個週六早上，他照常輸入「繼續」，系統卻返回報錯：美國政府已經把對Fable的出口管制生效，訪問權限被切斷。他由此聯想到算力緊缺時，美國很可能優先保障本土供應，英國這類依賴海外前沿模型的國家可能徹底失去入口，除非自己建起足夠安全等級的主權算力，這對公司乃至整個國家的科研產出都是真實威脅。
— Tom Milton原話 · 已逐字校驗
You can see all of these little spikes, the really small ones — that happen at the start of each layer, and you can actually tell this is a 12-layer model from those spikes.
你能看到這些很小的尖峰——它們發生在每一層的開頭，從這些尖峰你其實能判斷出這是一個12層的模型。
Tom Milton15:55
Before deals happened, before the US and the Soviet Union agreed they trusted that this would work, they ran a Joint Verification Experiment, in which Soviet scientists went to the US, US scientists went to the Soviet Union, and ran tests on one another’s infrastructure.
在協議達成之前，在美蘇雙方真正相信這套方法管用之前，他們搞了一次聯合驗證實驗：蘇聯科學家去了美國，美國科學家去了蘇聯，在對方的基礎設施上做測試。
Tom Milton27:58
we would need to retrofit every single data centre in China and every data centre in the US. It just seems to me like it would require a level of cooperation that’s completely impossible.
我們得把中國的每一個數據中心、美國的每一個數據中心都重新改造一遍。在我看來，這需要一種完全不可能達成的合作水平。
Tom Reed39:37
So maybe only 50 engineers in the world are working on AI verification right now, on compute verification.
所以現在全世界大概只有50名工程師在做AI驗證——也就是算力驗證——這件事。
Tom Milton44:17
I think if you are a safety researcher, a security researcher in a lab, your most likely route to the Nobel Prize for making AI go well is that you are the one who develops the verification tools that enable a deal.
如果你是實驗室裡的安全或安全工程研究員，你離「讓AI走好這條路」拿諾貝爾獎最近的一條路，很可能就是成為那個開發出能支撐一份協議的驗證工具的人。
Tom Milton57:22
We might be in the world where we win because there are warning shots and we want to slow down. And in that world we might need verification technology. Perhaps we get away without it. But I would be much more happy if it did exist.
我們可能正處在這樣一個世界裡：因為出現了一些警示性事件，大家想要減速，而我們最終贏了。在那個世界裡我們可能會需要驗證技術。也許沒有它我們也能僥倖過關，但如果它真的存在，我會安心得多。
Tom Milton1:03:28
And then it was a Saturday morning, I woke up, I said to Fable 5, “Keep going.” It returned an error. I said, “Keep going” again; it returned an error. I went on Twitter: Fable access had been cut off.
然後那是一個週六早上，我醒來，對Fable 5說「繼續」，它報錯了。我又說了一次「繼續」，還是報錯。我上推特一看：Fable的訪問權限被切斷了。
Tom Milton1:44:14
數字與實體
| Amodo演示集群規模 | 約30-32塊 H100/H200 GPU | 11:15 |
| 全球AI算力驗證從業工程師數 | 約50人 | 44:17 |
| 英國UKRI年度研發撥款 | 約100億英鎊/年 | 1:30:34 |
| Amodo四年間交付的硬件項目數 | 約100個 | 1:28:27 |
| Amodo硬件團隊規模 | 60名機械/電子/固件/軟件工程師 | 1:09:08 |
| 人工設計一塊GPU功耗監測板耗時 | 10到30小時 | 1:10:52 |
| Fable 5的硬件任務時間視野 | 10到100小時 | 1:14:42 |
| 功耗尖峰讀出的demo模型層數 | 12層 | 15:55 |
| 零知識證明抽樣核查比例 | 約千分之一的數據包 | 12:36 |
術語
- zero-knowledge proof零知識證明
- 無需透露模型權重等底層數據本身，就能證明某項聲明為真的密碼學技術
- flexHEG靈活硬件授權保障
- 在GPU芯片層面內置驗證硬件，從物理上強制執行使用限制的算力核查方案
- FPGA現場可編程門陣列
- 可重新編程的芯片，這裡被改造成記錄網絡流量的加密日誌盒
- side channel側信道
- 通過功耗、電磁等非預期渠道洩露出的系統內部信息，常被黑客用來竊密
- OPCW禁止化學武器組織
- 負責執行《化學武器公約》現場核查的國際機構，總部設在海牙
- national technical means國家技術手段
- 衛星、人力情報、信號情報等國家間互相監視對方的傳統諜報能力
收聽指南
關注AI安全與國際治理機制設計的研究者、政策從業者，以及對AI驅動的硬件研發感興趣的工程創業者
只想瞭解驗證機制的，可跳過1:07後段關於個人硬件項目的故事