世界太吵,來原聲聽播客

Latent Space

模型能認出分子出自哪位化學家,學到的是風格不是化學

給1815位化學家的分子做分類,模型靠作者風格就能猜中六成,卻學不到真實結合物理——這正是Leash堅持只用自產DEL數據訓練模型的原因。

藥物發現機器學習DNA編碼庫可解釋性數據質量強化學習

原視頻在 YouTube 上放不出來,用音頻聽:

方法論密度極高,少見地用具體實驗拆穿了分子結合預測模型到底在學什麼,而不是停留在「AI做藥」的口號層面。

核心論點 · 點時間戳可跳到原聲

4:02

DNA條形碼讓百萬分子一管混著篩

DNA編碼庫(DEL)的做法是給每種小分子掛上一段DNA條形碼,把成百上千萬種分子混進同一管液體,用磁珠把目標蛋白當魚鉤「釣」出結合的分子,再靠測序讀出條形碼身份,省去逐管逐孔篩選的物理成本。目前做過的最大DEL庫含40萬億個分子,而傳統逐管篩選的最大化合物庫也才百萬級別。但這個行業裡幾乎人人都說這項技術做過都有心理創傷:假陽性(蛋白粘DNA而非粘分子)、建築塊標籤錯誤率高是常見坑。

— Ian Quigley
31:53

最難的測試集上,沒人比瞎猜準

兩年前Leash自費做了一場Kaggle競賽測試業界到底能不能預測小分子結合,故意設計三檔難度:共享building block(簡單)、只共享triazine骨架(中等)、完全不同的化學庫(最難,且賽前未公開)。2000支隊伍參賽後,在最難的一檔上沒有一個人比瞎猜準——包括那些嘗試3D圖、球形卷積網絡等「更高級」分子表示法的隊伍,最樸素的SMILES文本表示反而效果最好。這讓Leash確信,整個領域對真正跨化學空間的結合預測幾乎還處於零理解階段。

— Ian Quigley
47:28

模型認出化學家,認不出結合位點

Ian和聯合創始人在Recursion看一個分子時,一位化學家一眼認出是誰做的,這讓他們懷疑模型會不會也在學化學家本人的風格而非化學規律。他們下載了Chemble上1815位發表過30篇以上論文、600個以上分子的化學家的全部數據,訓練分類器僅憑分子結構預測作者身份,top5準確率達到60%。更關鍵的是,把這個1800維的「作者概率向量」當作分子的唯一表示,預測活性的效果和用真實化學結構一樣好,兩者結合也沒有明顯提升——說明模型學到的幾乎全是化學家的個人風格和社會學痕跡,而不是真實的結合物理。

— Ian Quigley
58:53

結構模型滿分,可能只是認出了晶體庫

Leash用蛋白嵌入和分子嵌入做了極簡交叉注意力模型Hermes,專門用來快速做對照實驗。按building block相似度聚類劃分訓練測試集後,XGBoost性能隨分布外程度增加持續下降,Hermes卻保持相對穩定,這是泛化能力的證據。但另一組對照同樣揭穿了問題:當測試分子和蛋白(BRD4)恰好在PDB晶體庫裡出現過,結構模型Boltz幾乎滿分,而Hermes表現差,說明Boltz很可能只是記住了那張晶體結構,而不是真的理解了結合物理。

— Ian Quigley
1:07:10

用基因編輯主動打斷口袋來驗證因果

為了證明模型是否真懂物理而非記憶,Leash會主動打斷結合口袋:先篩一遍野生型蛋白確認哪些分子能結合,再買一個已知佔據該口袋的競爭性小分子高濃度加進去,看哪些分子系列被擠出來,最後直接在DNA層面突變口袋裡的氨基酸、重新表達蛋白再篩一遍。如果同一批被競爭分子擠出去的分子系列,在口袋被突變後也消失了,而口袋以外結合的分子都還在,就有很強證據證明這些分子確實結合在那個具體口袋裡。這是他們一週能跑上百次的規模化實驗,而不是傳統藥化一輩子才驗證幾次的個例。

— Ian Quigley
1:12:27

注意力機制在給蛋白記外號而非學化學

團隊原本期望Hermes的交叉注意力會聚焦在蛋白的結合口袋,結果發現模型根本沒看那裡,而是盯著蛋白裡一小段非保守、因蛋白而異的氨基酸序列——這段序列和結合功能無關,只是恰好能唯一標識「這是哪個蛋白」。他們意識到Hermes其實是在給每個蛋白記一個外號,而不是學結合化學。解決辦法是製造大量突變體:當兩個蛋白序列幾乎一樣、只有口袋裡一處不同、行為卻天差地別時,外號策略就徹底失效,模型被迫重新去看所有氨基酸,重新訓練後注意力確實變得均勻很多。

— Ian Quigley
1:15:47

轉向用自然語言做化學推理的強化學習

Leash最近把思路轉向用自然語言而不是數值向量做化學推理。他們先教開源語言模型用英文描述分子結構、描述兩個分子的差異,再給它binder和non-binder的對比數據做推理,最後放手讓它在真實篩選數據庫裡自主挑分子做虛擬實驗、拿到結果後更新假設,反覆迭代找最佳結合物。他們認為自然語言是比堆參數更強的記憶正則化器,更不容易走捷徑,而且這是一個物理錨定、可規模化的強化學習環境,不同於傳統做分子生成的自迴歸方法。

— Ian Quigley
1:39:10

壁壘不是算法,是撞坑撞出來的流程文化

面對「既然能靠海量篩選找到好分子,為什麼還需要模型」的質疑,Ian的回答是目標不同:如果只想給單個靶點找化學材料,確實不需要模型;但想讓模型學會跨蛋白、跨化學空間泛化就不一樣。Leash已做過約2000種蛋白構建體、約5000次篩選,覆蓋至少650萬個分子,若找CRO逐個做,一次篩選大約10萬美元。真正的壁壘不是算法,而是多年撞上各種「實驗作弊模式」後積累的流程文化——比如他們發現庫裡一類長得像蛋白摺疊矯正藥Lumacaftor的分子,專門命中的全是摺疊失敗的蛋白,這類坑只有長期盯數據的團隊才抓得到,砸錢買不來。

— Ian Quigley

原話 · 已逐字校驗

Mike was like, hey, looks like a Stuart Shribert molecule. And then we were like, oh no, you can tell just by walking by? You're like, who made this? That's horrifying.

Mike說,這看著像Stuart Shribert做的分子。我們當時就想,不是吧,你光看一眼就能認出來?你是說誰做的這個?這太可怕了。

Ian Quigley0:00

When you train models on the exhaust, you might be in trouble.

當你用廢氣(副產物痕跡)訓練模型時,你可能有麻煩了。

Ian Quigley1:00

And then when you go to the most challenging eval, no one did better than chance.

而當你看最難的那一檔測試集時,沒有一個人比瞎猜更準。

Ian Quigley31:53

It's well known that things like molecular weight will just – you know, all you have to do is sort by molecular weight. That's like one of the single biggest predictors you can possibly have.

大家都知道像分子量這種東西——你只要按分子量排序就行,這幾乎是你能擁有的單一最強預測因子之一。

Ian Quigley52:40

Our models did kind of bad on that molecule. It was a distant chemical library. They weren't very good at it. And Bolts was perfect at it.

我們的模型在那個分子上表現挺差,那是個很遠的化學庫,模型搞不定它;而Boltz在上面表現完美。

Ian Quigley58:53

we realized that Hermes was probably coming up with a nickname for the protein. It's not thinking about, oh, this is the functional part. It's like, I don't need to learn that. I can remember, you know, 10 or 12 amino acids that are different here than everyone else. And I can just memorize it.

我們意識到Hermes很可能是在給蛋白起了個外號。它不是在想「這是功能區域」,而是「我不需要學那個,我只要記住這裡有10到12個和別人不一樣的氨基酸」,然後直接死記硬背就行。

Ian Quigley1:12:27

And what we are currently doing is we're using readable, interpretable English to represent the small molecules and the proteins and their behaviors.

我們現在在做的是,用可讀、可解釋的英語來表示小分子、蛋白質以及它們的行為。

Ian Quigley1:15:47

We have a bunch of chemicals in our chemical library that looks like Luma-Captor, this thing whose job it is to refold misfolded proteins. Guess what kind of proteins it hits when we screen them?

我們化學庫裡有一批長得像Lumacaftor(一種負責給錯誤摺疊蛋白重新摺疊的藥)的分子。猜猜我們篩選時它們命中的是哪種蛋白?

Ian Quigley1:45:21

數字與實體

預測化學家身份的top5準確率60%47:28
用於身份預測的化學家數量1815位(Chemble數據庫,每人30篇以上論文、600個以上分子)47:28
已造出的最大DEL庫規模40萬億個分子4:02
傳統逐管排列化合物庫的標籤錯誤率20%-30%26:39
Leash發布的Kaggle數據集規模 vs 此前最大公開數據集BindingDB約40億次物理相互作用 vs 不到300萬次27:43
Kaggle競賽參賽隊伍數2000支30:48
Leash迄今的篩選規模約2000種蛋白構建體、約5000次篩選,每次覆蓋至少650萬個分子1:39:10
從DEL命中到小鼠體內良好PKPD的用時約6個月(少量藥化迭代週期)1:28:03

術語

DEL (DNA-Encoded Library)DNA編碼化合物庫
給每個小分子掛一段DNA條形碼,上千萬分子混在一管裡同時篩選結合活性
SMILES分子線性表示法
用純文本字符串表示分子結構的方法,不攜帶三維座標信息
Clever Hans effect聰明漢斯效應
模型看似學會了任務,實則在讀取無關線索而非任務本身的規律
activity cliff活性懸崖
分子結構只有極小差異,但結合活性卻發生劇烈變化的現象
cross-attention交叉注意力機制
讓模型顯式關聯兩種輸入(如蛋白序列和分子結構)不同部分的架構設計
ADMET成藥性五項指標
藥物的吸收、分布、代謝、排洩與毒性,決定一個分子能否真正成藥

收聽指南

誰該聽

做藥物發現機器學習、生物數據質量把控或early-stage biotech投資的人,尤其關心模型是否在學到「偽影」而非真實物理規律的人。

可跳過

DEL實驗流程中PCR擴增、條形碼設計等偏溼實驗室細節的段落可跳過。