世界太吵,來原聲聽播客

Latent Space

一場著名的虛擬細胞競賽爆冷:線性模型打平了多數深度模型

一場頂級虛擬細胞競賽證明,簡單線性迴歸能打平許多深度學習模型——問題不在數據信息不夠,而在評測指標和訓練目標本身設計有問題。

虛擬細胞擾動預測基礎模型歐洲創業生態生物數據世界模型
信息密度高:從虛擬細胞競賽爆冷到德國創業生態的具體數字,適合想看清這個賽道真實進展的人,但嘉賓開場幾分鐘的謙虛鋪墊可以跳過。

核心論點 · 點時間戳可跳到原聲

2:13

虛擬細胞升溫,根源是測序通量而非算法突破

Biohub 剛宣布一筆聯合 DOE、NIH、Meta、Google 的 18 億美元合作,用來生成下一代虛擬細胞所需的多尺度生物數據。Fabian 認為行業重新關注虛擬細胞,第一大原因就是數據生成規模的爆發,而不是某個算法突破;但他也提醒,要警惕很多項目只是「給自己貼上 AI 的標籤」而已,並沒有真正解決藥企需要的細胞類型特異性篩選問題。

— Fabian Theis
6:25

一次實驗測出1000萬個轉錄組

過去的擾動實驗裡,細胞空間(有多少種細胞)遠比擾動空間(對細胞做了什麼處理)豐富,典型的只有「對照 vs 疾病」這種稀疏對比。Parse Bio 的「giga lab」在單次實驗裡測出了一千萬個轉錄組,現在動輒上百種細胞系、上千種藥物的全擾動組合被同時測量,擾動空間第一次變得和細胞空間一樣豐富,這才真正讓大規模擾動預測模型有了用武之地。

— Fabian Theis
16:21

歸納偏置換不來更好預測,數據最後說了算

關於要不要在模型里加入人工先驗(歸納偏置)換取可解釋性和魯棒性,Fabian 的立場很明確:文獻已經反覆證明,先驗加得太強會犧牲預測力。他舉 AlphaFold 為例——早期版本費力把分子的旋轉不變性手工寫進模型,後來的版本乾脆讓模型靠更多數據自己學出這種對稱性,反而更靈活、效果更好。他認為長期看,更依賴數據、更少人工約束的模型會勝出,解釋性只能是後驗加上去的。

— Fabian Theis
20:56

虛擬細胞的瓶頸是訓練目標,不是數據本身

早期很多基礎模型論文沒有認真展示 scaling law,這才讓簡單模型能打平它們。但在更難的任務上(比如 NicheFormer 要求根據一個細胞的表達狀態預測鄰居細胞的狀態),非線性模型才真正體現優勢。Fabian 團隊的 scConcept 模型如今已擴展到 3.5 億個細胞、約一億參數,覆蓋 16 個物種,並已經開始觀察到明確的 scaling 行為——這說明不是數據裡沒有信息,而是此前的訓練目標和表徵方式沒有把信息真正利用起來。

— Fabian Theis
26:11

虛擬細胞挑戰賽爆冷:線性模型打平很多深度模型

Arc Institute 發起的 Virtual Cell Challenge 像一盆冷水:在細胞類型預測這類基礎任務上,接近最優水平的其實就是邏輯迴歸;在擾動預測上,很多「花哨」的深度模型也沒能明顯超過簡單線性模型。真正拿下冠軍的方案基於 flow matching 這類非線性方法,證明複雜模型在更難任務上確實有用,但比賽本身固定的幾個指標還被選手「鑽空子」利用,這促使 Open Problems 聯盟要求參賽者自己提交額外評測指標,才能真正暴露模型的細微差異。

— Fabian Theis
33:39

德國創業不缺早期錢,缺能扛風險的後期VC

Fabian 認為德國/歐洲的創業初期資金(早期 VC、非稀釋型資助)其實不缺,歐盟新設立的創業公司數量現在已經和美國相當,慕尼黑更是初創公司數量的歐洲重鎮。但一到需要承擔更大風險的 B 輪這類放大融資階段,歐洲的大額 VC 就明顯跟不上,很多團隊因此把目光轉向美國資本,這是歐洲深科技生態目前最明顯的斷層。

— Fabian Theis
38:59

多數「虛擬細胞平臺」公司最終悄悄轉去做藥

Fabian 觀察到一個反覆出現的模式:很多宣稱「解碼生物學」「構建虛擬細胞平臺」的公司拿到大筆融資後,說不清楚具體怎麼賺錢,最終都會轉型變成「我們在做藥」,因為投資人更能理解這個敘事。相比之下,他認為 Noetic 走的是更紮實的路線——護城河不只是模型本身,而是綁定了獨特的擾動數據生成能力,比如他們團隊與多家藥企共建的 Cancer Organoid Perturbation Atlas,藥企願意為早期數據訪問權直接付費。

— Fabian Theis
46:42

下一步是讓模型反過來告訴你該做哪個實驗

Fabian 團隊新發布的 Lab Compass 是一個逆生成模型:在已有正向世界模型的基礎上,反過來告訴你為了達到某個目標細胞狀態,需要在實驗室裡做什麼。團隊已經和劍橋一位做血液生成研究的合作者跑了三四輪「實驗-建模-再實驗」的快速閉環迭代,但他承認目前整個閉環離機器人自動化還太早,更多還停留在主動學習層面,終極目標是把整個實驗環節也納入強化學習閉環。

— Fabian Theis

原話 · 已逐字校驗

they had, like in a single experiment, ten million transcriptomes measured, right? I thought that was like, like next level stuff.

他們在單次實驗裡測出了一千萬個轉錄組,我覺得這完全是次世代的水平。

Fabian Theis6:25

if we build in a priori inductive biases too strongly that we might lose predictive power, right?

如果我們把先驗的歸納偏置加得太強,可能會損失預測能力,對吧?

Fabian Theis17:39

the honest learning from, from big scale machine learning is that at some point data beats human-made additional concepts in these models.

大規模機器學習帶來的一個誠實的教訓是:到了某個節點,數據會戰勝模型里人為加入的額外概念。

Fabian Theis18:45

a field that is rushing towards the gold pot of the virtual cell, people sometimes maybe were not as careful with the baselines

在一個所有人都在衝向「虛擬細胞」這個金罐子的領域裡,大家有時候對基線模型沒有那麼認真。

Fabian Theis26:11

Deep Learning is not needed for cell type prediction.

預測細胞類型不需要深度學習。

Fabian Theis27:14

I saw so many of these platform companies pivoting at some point to, "We make a drug."

我看到太多這類平臺型公司最終都會轉向——「我們在做一款藥」。

Fabian Theis39:00

the, the ultimate vision being that we want to RL everything. We want to do RL also in, in, in, in this loop. It's a bit out there, but you know, I think we're, we're slowly getting there.

終極願景是我們想把一切都做成強化學習——也想在這整個閉環裡引入強化學習。這聽起來有點超前,但我覺得我們正在慢慢接近它。

Fabian Theis49:45

數字與實體

Biohub跨機構虛擬細胞數據計劃18億美元2:13
Parse Bio單次實驗測序規模1000萬個轉錄組6:25
scConcept多物種潛空間覆蓋16個物種25:10
Helmholtz Munich計算健康中心規模約45個課題組長,500-600人31:27

術語

world model世界模型
能根據當前狀態和動作預測下一狀態的模型,這裡特指預測細胞擾動後狀態的模型
bitter lesson苦澀的教訓
指長期看更少人工先驗、更多數據與算力的方法往往勝出
organoid類器官
由幹細胞在體外培養出的具有部分器官結構和功能的多細胞團塊
flow matching流匹配
一類通過學習連續變換路徑來生成樣本的生成模型方法
Lab CompassLab Compass
Fabian團隊的逆生成模型,反推達到目標細胞狀態所需的實驗

收聽指南

誰該聽

虛擬細胞/擾動預測方向的研究者、生物計算創業者,以及想看清德國生科創業生態的投資人。

可跳過

開場兩分鐘的嘉賓履歷與客套介紹可以跳過,不影響後面的內容理解。