AI 2040 不是停掉 AI，是把超級智能推遲到 2040
反 AI 提案的真實機制是算力上限：暫停新前沿訓練，只允許推理，用 1 MB/s 的對外連接和法拉第籠把偷權重變成不可能。
原視頻在 YouTube 上放不出來，用音頻聽：
核心論點 · 點時間戳可跳到原聲
AI 2040 不是停掉 AI，是推遲到 2040
很多人以為反 AI 情緒在推動「停掉 AI」，但 AI 2040 提案的實際內容是：保留現有模型的推理，繼續做能力研究，只是把超級智能從 2028 推到 2040。具體機制是算力上限——暫停新的前沿訓練，對超過 1 萬個 H100 等效（約 1 億美元設備）的數據中心做「僅推理驗證」，物理拆除數據中心內部的東西向高帶寬網絡，讓分布式訓練跑不起來但推理照常。新研發中心要從零建在法拉第籠裡，對外連接限速 1 MB/s——想偷權重得傳五年。
— Speaker 1反 AI 動員遠不如反籠養雞
Speaker 2 指出一個反差：反 flock（反籠養雞）運動能轉化成普通人真實的物理行動，而反 AI 這邊看不到「教你如何切斷本地數據中心供電」這種十萬贊視頻。Speaker 1 補充，反 AI 的聲量更多來自「我是藝術家，我不喜歡 AI 生圖」這類具體利益，而不是 x-risk 論證。數據中心在偏遠位置、有圍欄、高度設防，比街邊的雞籠難下手得多。
— Speaker 2算力上限是最容易被擰的閥門
提案裡最有效的控制手段被認定為算力上限：芯片管制加數據中心建設放緩。目標是讓模型變強主要靠加硬件，而不是靠新算法——因為算法突破可以藏進秘密項目。Speaker 1 提到 Ilya 的新實驗室最近從 NVIDIA 拿到大集群，連走正交研究路線的人也要堆算力，說明「規模是前提」在這個圈子裡基本是共識。
— Speaker 1末日論者不下注，因為下注也沒命花
Tyler Cowen 要求悲觀預測者說出對應的市場價格來驗證信念，但 Deep Dish 反駁：短期存在性風險為什麼要反映在市場價格裡？「如果大家都死了，賠付的合約對我一文不值。」Speaker 5 補了一刀：核戰爭時代人們會建地堡，沒人建 AI 地堡，因為大家認為它太總體化，地堡也沒用——所以「你沒建地堡」不能證明你不信。Paul Christiano 被翻出是兩倍槓桿做多、做空美國三十年國債，但這筆賭注在「好結局」下同樣賺錢，不像末日押注。
— Speaker 1果蠅智能體把道德問題提前了
Google 把果蠅全部神經元映射出來，代碼開源後人們開始各種折騰：有人把果蠅智能體關進 Rabbit R1，搖晃設備就能看到它的逃跑回路亮起；還有人讓它玩 Doom。Speaker 1 認為真正的問題是這條路的下一站——如果能模擬人、能對話、行為和人一樣，它有沒有道德主體地位？他自己的判斷是別過度思考，別做折磨任何東西的生意。他還提到昨晚讓 Astra 用 computer use 玩 Balatro，感覺是給它獎勵而不是折磨。
— Speaker 1記者進房間後不再被請出去
Alex Heath 描述自己身份變化的核心機制：當記者在房間裡，你是被帶進來、然後立刻被護送出去的；現在他能在房間裡待著、慢慢醃入味（marinating on it）。所以他寫 newsletter 的視角會變——不是拿到一條爆料，而是把大量不能公開的對話沉澱成一個判斷，比如他正在寫的 personal agents。他明確說 confidentiality 仍然重要，不會再把公司擔心的 memo 洩露出去，做了十年，夠了。
— Speaker 3新人現在很難複製他的路徑
被問到「現在是不是成為下一個 Alex Heath 的好時機」，他的回答是反的：傳統媒體環境在結構上受挑戰，很多地方不招人、流量下滑、沒轉向訂閱和流媒體這種 direct 模式。他給出的唯一可行路徑是「maniacally focus on one thing and become the best in the world at that」——他自己就是從專注報道 Snap 起家，破了一堆 Snap 的新聞，被注意到之後再把這個能力遷移到別的公司。而且這個 niche 必須是 intersection of niche and matters，不能只是冷門。
— Speaker 3怕被落下，反而給了新玩家機會
Mitesh 之外的另一位主持人提出一個反直覺機制：因為人們對 AI 的恐懼，大家更願意嘗試新產品——不想被落在後面，不想成為 permanent underclass。結果是已經用了幾年各種 AI 產品的人，仍然願意試新東西，這持續製造出第二、第三進入者的優勢。同時 AI 品牌一旦變大就開始積累包袱（baggage），人們反而更願意分享和討論新東西，而不是自己每天在用的那個。這給 startup 留出很大空間。
— Speaker 2個人智能體的終局是網絡效應
討論把 personal agents 和 frontier model 的 inference 市場做對比：每家公司都會做個人智能體，很多已經做了。關鍵分歧在於這是不是網絡效應生意——一方認為會，並且最終能對 agentic commerce 抽成，比如你通過它買車、它賺 500 美元，Zuck 也說過 take rate 就是他的生意。另一方提出反例：智能體不是人，你未必在意它在不在網絡裡；但如果某個 agent 從沒洩露、沒崩過、沒被黑過，你確實會留下來。
— Speaker 1社交網絡重建的窗口正在打開
一個具體判斷：現在可能是重建社交網絡的最好時機，因為你可以讓 agent 打開你的 Snap 或 LinkedIn，把裡面每一個人抓出來，他們對此沒有發言權，然後在新網絡上加回來。當年「導出通訊錄」這個套利窗口關掉了，現在它正在重新打開。緊接著的批評是：社交媒體的老批評是「我們造社交媒體是為了社交，結果讓人更不社交」，個人智能體時代的新批評會變成「沒人跟人說話了，只有 agent 在互相說」，連跟奶奶聊公路旅行都變成「跟我的 agent 說」。
— Speaker 1芯片公司現在被問的是能不能造出來
Mitesh 說走進 hyperscaler 和 frontier lab 的會議室，問題不是性能，而是兩個：第一，你能不能造出足夠多——供應鏈和元器件是否足夠 robust；第二，你能不能部署——是否需要液冷，如果需要，他們可能沒有數據中心，因為已經分配給 GPU 或 TPU 了。他給的門檻數字是 gigawatt plus，在這個量級即使按 ASIC 更便宜算也是幾百億美元。他自己的節奏是今年 tape out、2027 下半年量產爬坡、2028 要有做到幾百兆瓦的計劃。
— Speaker 4用商品內存繞開 HBM 和 CoWoS 瓶頸
Positron 的技術路線是繞開 HBM 和 CoWoS 的排隊——NVIDIA、TPU、AMD 都在你前面。做法是用 commodity memory，代價是它慢，所以技術創新的點就在於怎麼解決慢。但商品內存也不是隨便能拿到，不是走到 Samsung 或 Micron 面前要 LPDDR5x 就行，仍然要規劃。他提到第一代產品用 FPGA 做，不到 20 人，15 個月交付第一個客戶，現在 Oracle 有 50 臺 Atlas 機架；公司剛過 100 人，其中 50 多人是最近三個月進來的。
— Speaker 4機器人畫畫要一兩個小時
Thijs 把 Codex 直接接到 Hugging Face 的開源機械臂上畫 TBPN 的 logo，一幅畫要花一到兩個小時，他自己說這「probably quite expensive」而且「definitely pretty slow」。他的做法不是讓模型看一張圖動一下，而是先讓模型寫一份代碼形式的計劃，執行後再每隔幾秒拍一張圖在後臺監控、微調計劃。他判斷如果改成圖像—小動作—圖像的高頻閉環，性能會最好，但當前這種「先規劃再監控」是速度上的折中。
— Thijs Simonian機械臂從幾千美元降到兩百美元
Thijs 說傳統機器人設備要幾千上萬美元，而他身後那臺 Hugging Face 的 SO-100 是開源、完全可 3D 打印的，只需另買執行器，目前大約 200 美元（他補充說這個價格偏高，是供應鏈問題造成的）。他把它類比成 3D 打印熱潮：在工業級設備普及前，大家會先買這種便宜的塑料機械臂夾在桌子上，插上現成的 agent 就能用。
— Thijs SimonianGuy Oseary 在 OpenAI 和 Anthropic 上投了近十億美元
Guy Oseary 說當年投 Anthropic 和 OpenAI 時，他們可能是唯一一家下注這麼深的基金，當時很多人覺得困惑，但他們認定這是長期的基礎平臺。他透露在兩家公司後續融資中又追加投入，累計接近 10 億美元。但他同時說今天要分辨什麼是真的、什麼不是，比當年難得多——「It's not as easy as it was for us to really decipher」。
— Guy Oseary用聽歌的方式聽 pitch：找副歌
Guy Oseary 把識別創始人等同於當年在俱樂部裡收 demo 帶：17 歲時手裡有 100 盤 demo，最初排前三的，聽到第 100 盤時已經掉出前 20。他說自己聽每一個 pitch 都像聽一首歌或一張專輯，判斷標準是「有沒有副歌」——「I'm always listening for the chorus」，聽不到副歌就覺得這首歌不行。Alanis Morissette 在他辦公室放了 30 到 40 秒的 Perfect，他就決定籤；Muse 從倫敦飛來唱完第一首就被他叫停，說可以開始了。
— Guy OsearyAlex Heath 靠見過最頂尖的人來識別假裝
Alex Heath 說他能一眼看穿營銷，是因為長期接觸世界上最頂尖的創始人——剛做過 Zuckerberg，之前是 Sam Altman。當你見過處在頂點、高誠信、在場上碾壓的人，就能很快看出誰在假裝。他說自己經常有「這看起來會火」的直覺，而且應驗過足夠多次。Guy 補充說這種直覺來自當年必須快速出手：如果不馬上決定簽下藝人，Jimmy Iovine 就會出更高的價把人搶走。
— Alex Heath原話 · 已逐字校驗
So the whole goal, you can only inference the current models and you gotta verify your workloads with an independent auditor, probably the government.
所以整個目標是，你只能對現有模型做推理，而且必須由獨立審計方——很可能是政府——來驗證你的工作負載。
Speaker 10:00
They want the r and d data center to be connected externally. If you want to communicate with it and and you want to tell it what to do, okay, train the next running or do whatever, they will have a bandwidth capped connection at one meg per second.
他們希望研發數據中心對外連接。如果你想和它通信、告訴它做什麼——好，訓練下一輪或者隨便什麼——他們會給一條限速在每秒 1 兆的連接。
Speaker 10:00
So it'd be very obvious if you're stealing the model weights because it's like, wait, this one meg pipe has been at full tilt for months. What's going on here? Someone's taken the stuff out of the data center.
所以如果你在偷模型權重會非常明顯，因為大家會說，等等，這條 1 兆的管道滿負荷跑了好幾個月了，怎麼回事？有人把東西從數據中心搬出去了。
Speaker 10:00
But at the same time, I think we we have a lot that we can do with the current technology that there's still cause for optimism even if something like this gets, you know, universally voted on.
但與此同時，我認為用現有技術我們還有很多事可做，所以即使這樣的東西被普遍投票通過，仍然有理由保持樂觀。
Speaker 10:00
when you're a journalist and you're in the room, you like get brought into the room and then escorted right back out. And now it's like I get to hang out in the room.
當你是記者、你在房間裡的時候，你是被帶進房間，然後立刻被護送出去。現在我可以待在房間裡了。
Speaker 30:00
No no free lunch in Silicon Land.
在硅的世界裡沒有免費的午餐。
Speaker 40:00
I think these paintings took between one hour and, like, two hours depending on the methods exactly that that model, like, Toast to use here.
我覺得這些畫花了大概一到兩個小時，取決於具體用的方法和模型。
Thijs Simonian2:20
Similar to how there's this whole three d printing craze where everyone went and bought three d printers and ran software. Like, everyone's gonna buy these sort of cheap before we get, like, really industrial equipment for, like, personal use and personal product.
就像當年 3D 打印熱潮，所有人都去買 3D 打印機、跑軟件。在真正工業級設備普及到個人使用和個人產品之前，大家會先買這種便宜的。
Thijs Simonian6:40
But music is the constant. I'm always listening for the chorus.
但音樂是恆定的。我一直在聽副歌。
Guy Oseary22:10
So when you see like the people at the apex crushing it and who are at high integrity or beasts at the game on the field, you you can quickly see when someone is pretending.
所以當你見過處在頂點、碾壓全場、高誠信或者在場上就是猛獸的人，你就能很快看出誰在假裝。
Alex Heath28:45
數字與實體
| 研發數據中心對外連接限速 | 1 MB/s | 0:00 |
| AI 2040 目標時間線 | 2035 年達到頂級人類專家能力，2040 年解鎖超級智能 | 0:00 |
| Chapel Hill 反 AI 抗議人數 | 約 150 人 | 0:00 |
| Hugging Face SO-100 機械臂價格 | 約 200 美元 | 6:40 |
| Thijs 的機器人單幅畫耗時 | 1 到 2 小時 | 2:20 |
| Guy Oseary 在 OpenAI 和 Anthropic 的累計投入 | 接近 10 億美元 | 16:20 |
| Positron 員工數 | 剛過 100 人，其中 50 多人是最近三個月加入 | 0:00 |
| Positron 首代產品交付週期 | 15 個月交付第一個客戶，用 FPGA 做，團隊不到 20 人 | 0:00 |
| Oracle 部署的 Atlas 機架 | 50 臺 | 0:00 |
術語
- AI 2040AI 2040 提案
- 主張暫停新前沿訓練、只允許推理，把超級智能推遲到 2040 年的監管方案。
- SO-100SO-100 機械臂
- Hugging Face 開源、可 3D 打印的桌面機械臂，約 200 美元。
- commodity memory商品內存
- 指 LPDDR5x 等通用內存，替代 HBM 以繞開 CoWoS 排隊。
- CoWoSCoWoS 封裝
- 臺積電的先進封裝技術，HBM 與 GPU 集成必需，產能緊張。
- gigawatt plus吉瓦級以上
- 數據中心功耗門檻，達到此量級即使 ASIC 也需數百億美元。
收聽指南
關注 AI 監管、機器人、芯片供應鏈的創業者和投資人；想了解風投識人方法和個人智能體趨勢的從業者。
對音樂行業識人故事不感興趣的，可跳過 22:10 到 28:45 的 Guy Oseary 段落。