2026年10月19日
Technology Watch

從實驗室到產業,追蹤新技術的路徑

← 回首頁

arXiv

視覺 fMRI 解碼器在掃描前就開始運作

AI 繪製的示意圖

一個共享的視覺 fMRI 解碼器,將分開的腦部影像資料庫轉化為彼此的訓練材料,儘管它所使用的共同幾何空間有一部分借用了 CLIP。研究人員在八個資料集上訓練 BRAID-fMRI,並在八名相匹配的參與者中,回報平均 35.0% 的 Top-10 檢索率。在醫院的影像檢查室裡,如果這種轉移能與臨床資料搭配運作,一項簡短的標準視覺任務,就可能讓研究人員搜尋大型影像資料庫,而不必先收集數小時的個人專屬掃描資料。

如今,視覺 fMRI 解碼器通常只屬於一個人和一項實驗。fMRI 掃描器測量的是血液含氧量的緩慢變化,而不是直接測量神經細胞的放電。這些測量結果也會隨著受試者、掃描器、時段和任務而改變。因此,新參與者通常需要校準掃描,而新的研究可能也需要自己的解碼器。昂貴的腦部影像資料仍被困在各自分開的資料集中,無法累積發揮作用。

為什麼舊方法難以跨越資料集

解碼器是一種試圖從腦部測量結果反推某人所看到影像的系統。一種常見方法,是先從視覺模型預測特徵,再從一組可能的影像中搜尋最接近的結果。

這項研究使用 CLIP——一種會將意義相關的影像放在彼此附近的視覺模型。一張狗的照片和另一張狗的照片,即使並不相同,也可能落在相近的位置。這讓解碼器能夠找出某張影像或相似的影像,但也帶來一項警訊:以 CLIP 為訓練依據的解碼器,可能會繼承 CLIP 的分類方式。這並不能證明那些分類方式就是大腦自己的整理系統。

主要的評分稱為 Top-10 檢索。系統會排列候選影像的順位;如果正確影像出現在前十名之內,就能得到分數。分數取決於候選影像的數量,以及候選影像的內容。解剖學配準可以讓不同大腦中大致相似的區域對齊,但無法消除這些區域在功能運作方式上的差異。

為許多掃描建立共同起點

研究人員在八個視覺 fMRI 資料集上訓練一個名為 BRAID-fMRI 的模型。這些資料合計包含 430,007 組單次試驗的腦部測量與視覺刺激配對。模型將大腦劃分為 379 個解剖區域,把每個區域的反應轉換為一個 token,並使用共享的 Transformer 將它們結合起來。

接著,它將合併後的腦部模式映射到 CLIP 固定不變的 512 維影像空間。簡單來說,模型學會將一次掃描放到產生該掃描的影像附近,同時也從其他資料集收集的掃描中學習。因此,它可以把不同研究之間的差異當作訓練材料,而不是將每項研究視為封閉的資料箱。

研究人員回報了跨資料集與參與者的檢索結果。在來自兩個資料集的八名相匹配參與者中,平均 Top-10 分數為 35.0%;僅進行檢索的基準方法為 27.1%,嶺迴歸則為 21.1%。在一項更嚴格的測試中,目標資料集、其中的參與者和刺激材料全都被排除在訓練之外。參與者特定的嵌入也被停用。在回報的七種情況中,加入更多來源資料集都提升了保留目標資料集上的表現;其中 NSD 的提升幅度最大,達到 92.1%。

這就是重要的改變:轉移學習變成一個共享預訓練問題,而不再要求為每一個人和每一項實驗建立或調整一個獨立模型。

Refer to caption
Figure 1: \\sharpfontCross-dataset visual-fMRI harmonization and the BRAID-fMRI model.a, Visual stimuli are presented during fMRI acquisition, and single-trial responses are estimated to obtain stimulus-specific brain activity patterns. b, Eight visual-fMRI datasets spanning static-image and dynamic-video experiments are brought into a common processing framework. fMRI responses are represented using 360 HCP-MMP1.0 cortical parcels and 19 additional regions, while stimuli are represented in a common 512-dimensional CLIP ViT-B/32 image space. c, ROI-wise responses from participants in eight visual-fMRI datasets are mapped to ROI tokens and augmented with learned ROI embeddings and, in participant-conditioned analyses, learned participant embeddings. A Transformer shared across datasets and participants contextualizes the tokens, which are attention-pooled and projected into the 512-dimensional image space of a frozen CLIP ViT-B/32 encoder. Participant embeddings are omitted in the zero-shot transfer experiments. A multi-positive contrastive objective aligns neural responses with their corresponding stimuli while treating repeated observations of the same stimulus as positives. ### One model retrieves visual stimuli across datasets and participants 出處: Many Brains, One Geometry: A Shared Visual-Semantic Space for Cross-Dataset fMRI Decoding(arXiv)
Refer to caption
Figure 3: \\sharpfontSemantic organization, network contributions and zero-shot cross-dataset transfer.a, t-SNE visualization of 40 kk-means clusters obtained from normalized CLIP embeddings of unique validation stimuli. Ten clusters used for subsequent analyses are highlighted, with representative stimuli shown. b, Dataset composition of the selected clusters. Stacked bars show the number of unique stimuli contributed by each dataset. Cluster labels (C0–C39) denote arbitrary kk-means cluster identifiers and are unrelated to retrieval rank; ranks indicate ordering by Top-10 retrieval accuracy. c, Top: unique-stimulus Top-10 accuracy for all clusters, ordered by performance; bottom: number of unique stimuli in the same ordering. Every fourth cluster in the ranked sequence was retained, yielding ten clusters spanning the full performance range. d, Global unique-stimulus Top-10 accuracy after masking each functional or anatomical ROI group. The dashed line marks the unablated baseline; annotations give percentage-point changes. e,Dataset-specific ablation effects. f, Participant-level effects for the four most disruptive groups. Points denote participants, violins show distributions, boxes show medians and interquartile ranges, and black circles show means. Asterisks denote one-sided Wilcoxon signed-rank tests of retrieval impairment, with Benjamini–Hochberg correction across nine groups. g, Zero-shot participant and dataset transfer with participant embeddings disabled throughout training and evaluation. For each target, the entire dataset and all of its participants remain held out while source datasets and participants are cumulatively added to pretraining. Values are percentage changes relative to step 0; annotations report the net change from the first to the final step.### A shared visual backbone supports retrieval across datasets 出處: Many Brains, One Geometry: A Shared Visual-Semantic Space for Cross-Dataset fMRI Decoding(arXiv)

可用版本將帶來什麼改變

在醫院的影像檢查室裡,參與者可能只需完成一項簡短、標準化的視覺任務。接著,研究人員就能搜尋大型影像資料庫,找出這個人看過的內容,而不必先收集許多小時的個人專屬訓練掃描。小型實驗室可以從以合併資料訓練的解碼器開始,而腦機介面開發者也能避免為每位使用者建立大型客製化資料集。

這個未來不只取決於這組資料中的高分。這項結果必須經得起獨立重現,並且能在臨床上實際可行的資料量、掃描器和不同於研究資料集的族群中運作。模型的共享幾何空間也有一部分由 CLIP 提供,因此它並不能證明自己直接接觸到某人的視覺經驗,也不能揭示大腦原生的語意幾何。影片資料集被縮減為時間上的中央畫格,這表示這項研究並未分別證明能夠解碼動作或隨時間發生的變化。研究人員也在訓練和檢查點選擇時使用了保留的評估資料,並監測小批次檢索代理指標。在這些限制獲得解決之前,這項進展最好被理解為一個可重複使用的起點——而不是一扇已完成、能通往他人心智的窗戶。

來源

Many Brains, One Geometry: A Shared Visual-Semantic Space for Cross-Dataset fMRI Decoding