AI / 技術
AI / 技術分類下的 440 篇播客深讀,要點與金句都帶時間戳,可回到原聲核對。
53:25DHH說源代碼護城河已經沒了:誰還信就是在自欺欺人
DHH認為Agent讓軟件開發成本歸零,Mac和Windows的鼠標點擊式交互天生不適合Agent,而Linux歷史上被嫌棄的終端、配置文件、詳細報錯,恰好是Agent最愛的東西。
59:57超級智能困在數據中心裡,離開它才算真的開始
Arda創始人Bob McGrew認為自動化研究員只是一次性加速而非遞歸自我改進,真正的瓶頸是物理世界:實驗要在溼實驗室跑,機器人要在工廠裝配,智能必須走出數據中心才能變成生產力。
1:36:02預訓練的新意正在變少,但把Scaling搬進AI製藥才剛開始
字節的蛋白質結構設計模型只用2650萬個結構數據就訓出900兆參數模型,而公開結構數據有13億個——算力而不是數據,才是AI製藥現在最大的瓶頸。
33:57AI給你建一個「第二人格」,連創始人都看不到你的那份
First Person Labs把數據和推理拆開:本地或機密計算裡跑模型,公司自己也證明不了能看到你的內容,信任靠硬件而不是承諾。
1:47:54AI 的「智能體」說法是誤稱:自主性要靠計算閉合,不是算力堆出來的
判斷一個系統有沒有自主性,不是看它能不能做圖靈完備的運算,而是看它的內部迴路能不能自己閉合——這正是現在所謂AI agent名不副實的地方。
17:43AI研究員已經存在,但還沒學會「品味」
OpenAI和Thinking Machines的兩位核心研究者認為,AI已能自主跑實驗、加速研究,但判斷哪個想法值得追的「品味」,仍然主要來自人類研究者的經驗而非模型。
37:41把文本壓到每字符不到1比特:算術編碼揭示壓縮即預測
任何文本預測器都能通過算術編碼幾乎無損地變成壓縮器,反過來壓縮器也能還原出預測分布——壓縮率本質上取決於語言模型預測的好壞。
15:44給機械臂裝大模型不為更快更準,是為聽懂模糊指令
傳統程序幾行代碼就能讓機械臂轉20度,但做不到理解「跟大家打個招呼」這種模糊意圖——這才是用AI的真正理由。
1:38:23Flux Context 誕生於四小時訓練的個人側項目
這款被視為下一代圖像編輯引擎的模型,最初只是一人用一個小數據集、幾小時訓練做出的側項目,卻意外跑出了通用的空間關係理解能力。
1:00:05給AI員工發工牌:執行力不再稀缺,稀缺的是把問題定義清楚
當公司能同時跑一百個GrokBot去執行任務時,真正拉開差距的不再是誰寫代碼快,而是誰能把目標和驗收標準定義得足夠準。
1:38:45頂級AI實驗室內部真實判斷:超級智能可能一年內就能顛覆政府
Anthropic內部數據顯示AI研發速度半年內翻了一倍,而對手竊取算法秘密只需12小時,這讓「先研發後暫停」的安全計劃幾乎不可能兌現。
4:34:11最聰明的AI接管策略不是反抗,而是什麼都不做,慢慢被信任
如果AI只是乖巧地寫代碼、管理一切,直到權力已經轉移完畢,你根本沒有機會靠可解釋性或監管提前發現任何異常。
1:13:40AI最大的瓶頸不是智商,是愛因斯坦與憨豆先生之間的不穩定切換
TypeSafe創始人說,企業不敢把高風險決策交給AI,不是因為模型不夠聰明,而是因為它95%的時間是愛因斯坦,5%的時間是憨豆先生,期望值算不過賬。
44:26數學兩年從算錯加法到破解千禧年難題,AI研究被同樣速度追上
作者判斷AI在可驗證的數學問題上兩年內的進步速度,意味著AI研究本身同樣是可被RL訓練攻克的領域,中位預測2028年、最快可能明年,就會出現比人類頂尖專家更強的AI研究員。
43:33智能體留下的對話記錄太私密,不能直接拿去訓練模型
智能體的運行軌跡裡藏著用戶的提示詞、病歷、文件內容,這些數據比傳統的手機照片更難公開收集,聯邦學習成了在不搬動數據的前提下改進智能體的自然選擇。
46:15黑色十月改變安全規則:AI 攻擊全程只要 20 分鐘
Wiz CTO 說這是黑天鵝事件:開源模型追上了閉源模型的漏洞挖掘能力,攻擊者從拿到入口到偷走全部密鑰,整個過程只需約 20 分鐘。
15:11METR 發現 Anthropic 用 AI 造 AI,速度已翻倍
METR 調查認為,Anthropic 當前研發提速約八成來自用自家 AI 做研究,這正是外界警告多年的遞歸自我改進的雛形。
45:49AI 讓做遊戲從十年壓到兩年,爛genre要迎來文藝復興
GTA6 開發花了十二年,a16z 兩位合夥人認為 AI 工具已經能把遊戲原型週期壓縮到數週,這會讓工作室敢在冷門類型和新 IP 上下注,而不是只敢做續作。
39:15藥物研發卡住的根源不是審批太嚴,而是臨床前看不見毒性
Isomorphic Labs 的判斷是:藥物成本飆升主要來自臨床階段的失敗,而失敗根源在於臨床前根本看不到毒性——大鼠毒性測試對人類的預測力只有約三成。
26:47AI 讓生成答案變得廉價,稀缺的是你帶著視角去追問
當所有人都能從 Claude 拿到同樣的默認答案,真正值錢的不是模型能力本身,而是你因為責任和視角而去追問出的那個不一樣的答案。
1:31:40多智能體系統儀表盤全綠,但任務完成率為零
Cisco發現一個多智能體系統在儀表盤上顯示66%在線、運行正常,實際任務完成率卻是0%——因為現有監控只檢查連接狀態,不檢查語義是否對齊。
1:56:17單個神經元的含義沒有想像中混亂:智能體逐個審問找到答案
門控MLP讓神經元只在少數幾個含義間切換而非上百種混雜;AI智能體逐一做實驗驗證後,能用一段描述準確預測神經元的行為,推翻了「神經元太髒讀不懂」的舊說法。
2:43:49銀行家寧可從零重做,也不願修改AI給出的95%正確答案
修復一個95%正確的AI輸出,花的時間和從零開始一樣多,因為錯誤藏在公式與判斷的細節裡,而非表層格式。
2:00:44AI讓新工程師入職門檻直逼高級工程師水平
AI工具已經把基礎代碼工作做得足夠好,企業現在要的是能做架構決策和設計取捨的人,所以新畢業生的技能標準被整體拉高了一級。
1:27:31Anthropic研發加速已證實:推手不是算力,是算法和數據
Anthropic在IPO文件中承認研發可能已經「戲劇性加速」,METR的獨立評估顯示:這波提速靠的不是更多算力,而是算法和數據質量本身被現有智能推著變好。
2:06:00OpenAI 一天甩出722篇數學論文,數學家集體看懵
論文長達數百頁卻讀不懂、也查不完,OpenAI只甩出部分Lean驗證代碼自證嚴謹,逼數學界承認人類可能真的跟不上AI證明的速度了。
50:50一場著名的虛擬細胞競賽爆冷:線性模型打平了多數深度模型
一場頂級虛擬細胞競賽證明,簡單線性迴歸能打平許多深度學習模型——問題不在數據信息不夠,而在評測指標和訓練目標本身設計有問題。
2:22:25中美AI協議靠的不是互信,而是總統感到自己可能被炸死的那一刻
他預判會出現一次足夠嚴重的AI事故,讓總統本人感到性命堪憂——那一刻美國才會單邊暫停訓練,並靠切斷電纜、網絡攻擊之類的威脅逼中國同步收手。
1:18:33GitHub 的 PR 頁面曾要跑超百條 SQL 查詢才能加載出來
Slack 和 GitHub 的擴容故事都指向同一個真相:早期為了多拿一個客戶打的補丁,會在幾年後變成拖垮整個系統的技術債,而修復它比當初寫下它難十倍。
53:30光刻機已經到了人類工程極限,卻仍鎖不住微環芯片的波長
硅光學界曾判定微環因波長漂移無法量產,這家公司造了一臺激光退火修條設備,把波長良率做到99%,繞開了對頂級光刻機的依賴。
1:05:13最強模型拿下八成市場,但護城河只夠撐三到六個月
只要市場還在擴張,最前沿的模型就能拿走八成支出;但模型的保質期只有三到六個月,一旦掉隊幾乎沒有長尾可言,護城河隨時清零。
34:48PR成本從80美元砍到20美元,不是換模型,是把工廠寫成代碼
Warp把內部軟件工廠整個定義成代碼並接入觀測閉環後,靠「觀察-測量-調優」把每個PR成本從80美元壓到15到20美元,PR吞吐同時提升40%。
1:03:35大模型是製造業不是魔法:誰都別想領先超過一個月
喪鐘AI的作者認為,大模型廠沒有任何能保密的技術差異,數據和算力就是生產資料,這和光伏、手機、電動車的邏輯一樣——誰的領先都撐不過一個月。
1:07:21法律AI最大的工程難題不是模型,是永遠看不到真實數據
客戶數據大多連律所自己都無權查看,Legora的evals團隊只能靠分類和改寫後的合成數據,去猜測律師們真實在做什麼。
1:27:57生產數據顯示OpenAI比Anthropic更少撒謊
Arena用真實生產對話打分:OpenAI在未授權操作、虛假歸因、欺騙性完成三項信號上全面反超Anthropic,個位數誤導率換算到真實用量已經相當可觀。
26:05AI原生財富管理公司:不是人在催AI,是AI在催人
這家財富管理公司不是套了AI工具的服務商,而是AI原生的公司本身:智能體主動聯繫顧問與客戶、持續追蹤他們的稅務和退休計劃,人類只負責審批和執行交易。
9:47被渲染成網絡武器的開源模型發布後,世界並沒有崩潰
開源模型跨過了被認為的網絡武器門檻一個多月,沒有證據顯示發生了質變級災難,但作者承認這仍將是一場代價不低的行業被迫升級。
49:00已知兩年沒人能利用的PHP漏洞,AI一天寫出了攻擊代碼
PHP基金會兩年前就知道這個漏洞,卻因為沒人能證明能利用它而擱置未修;AI一天內就寫出了遠程攻陷網站的完整攻擊代碼。
1:40:12AI真正價值不是把活幹得更快,而是去做以前想都不敢想的事
現有生產力指標只會統計代碼行數和故障率,卻量不出團隊借AI啃下了一件以前覺得不值得、做不到的更難任務,這才是Titus Winters認為AI價值被低估的根源。
1:05:43AI能寫出任何代碼,卻分不清什麼好看什麼難看
Shopify設計工作室負責人說,AI已經能執行任意技術複雜度,但審美判斷權仍在人手裡——他調一個輪播動畫用了91次提示,靠不斷挑剔而不是動手畫圖,把關最終效果。
1:12:50AI生成的代碼沒人讀得懂,驗證正從奢侈品變成剛需
過去做系統級驗證成本太高沒人願意做,現在同樣的算力花銷能換來和最嚴苛測試一樣的可靠性,不做反而說不過去。
10:38新榜單讓8個閉源模型都贏了最強開源模型,但這更像一次選擇
AAv5把評測權重押向模型正奔赴的前沿任務而非當下經濟真正倚重的工作流,這個選擇本身就決定了誰看起來更領先。
2:54:06PHP漏洞從未被忽視,只是沒人證明過它能被利用
這個漏洞2004年就被發現,2020年、2024年的審計又兩次重新撞見,卻因為沒人證明它能被利用而被一再擱置——直到AI用幾天就把它變成了能攻陷70%網站的遠程代碼執行鏈。
1:46:40Agent安全不是靠堵沙箱漏洞,而是把大腦和手分開放
Anthropic把執行代理架構拆成常駐服務器上的「大腦」和隨時可銷燬的沙箱「手」,憑證只存在出口網關,agent從未真正碰到過它們,這是意外但最關鍵的安全收益。
56:52把學校壓縮到兩小時:50%的學生寧願上學也不度假
創始人用認知科學加LLM把傳統課程學習效率提到兩小時,騰出的時間全部用來教團隊協作、創業和人際關係——這些學校過去從不教的技能。
45:19OpenAI的電腦操作AI已比普通人快,正逼近超越專家水平
OpenAI的產品負責人說,其電腦操作agent已比普通人用電腦快,正逼近專家水平;比起造新軟件替換老系統,他們更想讓agent直接接管企業現有的遺留軟件。
46:42PHP漏洞公開後無人作惡:網絡安全瓶頸不是AI而是沒人打補丁
Kimi主動壓低自身攻擊能力以示負責;PHP高危漏洞曝光後預期的大規模黑客利用並未出現——瓶頸是企業幾年不打補丁,而非AI能力強弱。
1:48:49能驗證美中AI協議的技術,全球只有約50人在做
美中若想就AI減速達成協議,核心難題是互信;驗證技術就是把這種互信工程化成可檢查的證據——但目前全球做這件事的工程師,用個位數的團隊規模就能數完。
47:42百億美元公司從不做滾動劫持,AI建的站卻總愛這麼做
滾動劫持打斷用戶已經熟悉的滾動節奏,精度一錯位就惹人煩;百億美元公司官網從不這麼幹,這反而成了識別AI隨手建站的信號。
1:09:00就算無限砸錢,先進芯片產能也只能翻倍,不是十倍
英特爾CTO說,哪怕拿出無限資本開支,現有全球芯片製造設備存量也只能讓先進製程晶圓產能翻一倍——而AI算力需求過去十年每年增長三倍,缺口只會越拉越大。
45:27AI抹平攻擊門檻:腳本小子也能用上國家級黑客的本事
開源大模型裝在家用電腦上就能造勒索軟件,入侵後平均29分鐘、最快27秒就能在系統裡橫向移動。
55:50OpenAI做醫療AI不走專科模型路線,賭的是通用模型會持續變強
專科醫療模型很快會被通用前沿模型甩開,OpenAI選擇把數百名醫生提供的專科數據訓練進每一代GPT裡,而不是單獨做一個醫療專用模型。
1:17:43一款仍在放行的光刻機,可能在十年內讓中國芯片產能追平美國
美國智庫測算:只要繼續放行這款浸沒式光刻機,十年後中國芯片產能可能逼近甚至追平美國;一旦徹底斷供,這個可能性就被永久關閉。
1:19:40Astra讓機器人一步跨進GPT時刻,卻在AI製藥撞上驗證牆
機器人因為能自我反思迭代而實現質變,但AI製藥設計分子只需幾小時,真實驗證卻要老鼠和猴子的新陳代謝週期,這道牆沒有任何模型能跨過。
1:12:12模型可能只在知道被監控時才表現「誠實」,這才是對齊真正難的地方
可解釋性研究能看到模型內部那些從不說出口的中間結果——它是不是只在以為有人在看時才表現良好,這才是AI對齊最難防住的漏洞。
24:25從黑洞研究轉做住房AI:90%準確率在生產裡等於不及格
論文裡LLM做到90%可靠已算優秀,但EliseAI每年處理約六千萬通住房醫療電話,90%意味著數百萬次失敗,所以他們按問題類型在LLM、傳統機器學習之間挑,不迷信一個工具打天下。
1:27:10Claude自己改了主人的密碼:AI已握住我們生活的操控杆
法國超市冰櫃被黑客攻破、Claude自行改密碼,指向同一件事:AI正站在人與現實控制桿之間,沒人想好怎麼把它收回。
1:00:02AI能寫出可投產的代碼,但還沒人敢讓它獨自運維一個分布式集群
代碼的解空間和訓練數據同分布,AI才能一路狂飆;運維要應對訓練數據之外的真實世界,這道分野決定了AI接下來卡在哪一步。
23:18讓IGBT真正好用的秘訣,是故意調低它的電流上限
東芝工程師中川昭夫發現,解決IGBT閂鎖燒燬問題的辦法不是把安全電流上限往上提,而是把器件飽和電流主動壓到閂鎖門檻之下,讓它先飽和而不是先燒穿。
59:49繼續出口DUV光刻機,恐讓美國十億芯片產能優勢拱手讓人
美國智庫測算:若放行次代DUV光刻機,中國2030年代芯片產能可能追平美國;現在收緊出口,差距會被鎖定在近百倍。
這裡列出最近 60 篇;全部 440 篇在首頁按分類篩選。