2026年10月19日
Technology Watch

從實驗室到產業,追蹤新技術的路徑

← 回首頁

arXiv

fMRI 編碼逼近千模型集成,卻不需要千個模型

AI 繪製的示意圖

單一生成式編碼器就能逼近大型 fMRI 模型集成的準確度,同時產生數個合理的腦部反應。作者使用四名參與者的資料評估 MultiFlow,並在熟悉的電影素材上達到與已報告的千模型集成相當的表現。如果它的不確定性在新的受試者和刺激上仍能保持校準,研究人員就能在讓志願者進入 MRI 掃描器前,先在電腦上篩選實驗。

預測一個人的大腦會如何回應一部電影,並不像預測他們是否會笑。同一個場景每次不會產生完全相同的腦部訊號,但目前的系統通常只會回傳一個近似平均值的答案。最準確的結果往往來自訓練數十個到數千個獨立模型,再將它們平均。這會耗費時間和運算能力,而且當系統其實沒有太多理由相信自己時,最終答案仍可能看起來很有把握。

為什麼預測腦部反應很困難

功能性磁共振造影(functional magnetic resonance imaging,或 fMRI)不會直接記錄思想。它追蹤血液含氧量的變化,而這是神經活動間接且延遲的訊號。編碼模型從一個人觀看或聽到的內容出發,預測隨後出現的 fMRI 訊號。這與解碼相反;解碼是試圖從腦部測量結果推斷刺激內容。

使用平方誤差訓練的典型迴歸系統,往往會產生條件平均值:也就是同一個場景可能引發的多種結果之間,那個位於中間的答案。皮爾森相關分數衡量的是,預測訊號是否隨著測得的訊號在時間上同步上升和下降。它無法證明模型理解大腦為何會產生這種反應。

這篇論文以四名參與者觀看的影音素材測試其系統;在此過程中,fMRI 記錄了他們的全腦活動。模型使用電影的影像、聲音和逐字稿,結合十個已訓練完成的視覺、音訊、語言和影音模型所提取的特徵。它預測整個大腦皮質的活動,而不只是某個小區域。

Refer to caption
Figure 2: Three views of fMRI encoding (schematic).(a) Deterministic regression maps the stimulus 𝐱\\mathbf{x} to a single point estimate 𝐲^\\hat{\\mathbf{y}} (red), collapsing the target BOLD distribution onto its conditional mean. (b) Standard CFM draws source samples 𝐳0\\mathbf{z}\_{0} (orange) from a fixed Gaussian p0=𝒩⁡(𝟎,𝐈)p\_{0}=\\mathcal{N}(\\mathbf{0},\\mathbf{I}) and transports each to pdata≈p⁡(𝐲∣𝐱)p\_{\\text{data}}\\!\\approx\\!p(\\mathbf{y}\\mid\\mathbf{x}) along a long ODE path. (c) MultiFlow (ours) draws the *same* samples from a *stimulus-conditioned* source p0​(𝐳0∣𝐱)=𝒩⁡(𝝁ϕ​(𝐱),σϕ​(𝐱)2​𝐈)p\_{0}(\\mathbf{z}\_{0}\\mid\\mathbf{x})=\\mathcal{N}\\!\\bigl(\\boldsymbol{\\mu}\_{\\phi}(\\mathbf{x}),\\sigma\_{\\phi}(\\mathbf{x})^{2}\\mathbf{I}\\bigr)whose 𝝁ϕ\\boldsymbol{\\mu}\_{\\phi} and σϕ\\sigma\_{\\phi} are *learned* to place the source closer to the target, shortening the expected transport path. In (b,c) the curves are independent samples from a *single* model; the panels differ only in the source distribution.## 2 Related Work 出處: MultiFlow: Vision-Driven Multimodal fMRI Encoding via Stimulus-Informed Source Flow Matching(arXiv)

一個模型,數種可能的腦部反應

MultiFlow 將任務從選出單一反應,改為生成數條合理的反應路徑。它使用一個訓練完成的模型檢查點,然後在測試時將少量生成樣本取平均。這是為了捕捉一個刺激可能對應不只一種合理腦部反應的事實。

這些樣本從哪裡開始,是其中的關鍵。在一般的流匹配中,生成系統從固定的一團隨機雜訊開始,沿著一條數學路徑,逐步將每個樣本移向目標分布。MultiFlow 則從一團由刺激本身塑造的分布開始。視覺、音訊和語言內容為起點提供了有用的方向,因此通往某個可能 fMRI 反應的路徑更短。

這種方法稱為「刺激資訊引導的來源流匹配」(Stimulus-Informed Source Flow Matching,或 SISFM)。圖 2 將它與確定性預測及標準流模型進行對比。重要的差異不在於 MultiFlow 使用了許多分別訓練的模型,而在於它從一個模型中抽取不同的可能性。

在分布內的 Friends 測試集上,MultiFlow 回報的每個分區平均皮爾森相關為 0.3163。由 1,000 個模型組成的已報告集成,分數則為 0.3195。在六部訓練時未看過的電影上,模型的分數較低,但仍接近 50 模型集成的已報告結果。作者也回報,使用相同架構時,以 SISFM 取代一般的均方誤差迴歸,能將驗證相關從 0.2760 提高到 0.3213。

Refer to caption
Figure 1: Overview of the MultiFlow pipeline.Time-aligned *visual frames*, *audio samples*, and *transcripts* pass through ten frozen foundation-model backbones; the fused representation drives a generative model that synthesises whole-brain fMRI activity over the Schaefer-1000 parcellation. Rather than a single point estimate, MultiFlow models the stimulus-conditioned BOLD distribution via Stimulus-Informed Source Flow Matching (SISFM).Naturalistic paradigms in which participants watch movies during fMRI scanning have become a standard setting for studying how the brain integrates vision, language, and sound over time (Figure [1](https://arxiv.org/html/#S1.F1 "Figure 1 ‣ 1 Introduction ‣ MultiFlow: Vision-Driven Multimodal fMRI Encoding via Stimulus-Informed Source Flow Matching")). Encoding models that predict cortical responses from such stimuli give a principled way to probe this integration \[[Yamins and DiCarlo(2016)](https://arxiv.org/html/#bib.bibx33)\], and the Algonauts 2025 dataset \[[Gifford et al.(2025b)Gifford, Bersch, St-Laurent, Pinsard, Boyle, Bellec, Oliva, Roig, and Cichy](https://arxiv.org/html/#bib.bibx8), [Boyle et al.(2023)Boyle, Pinsard, Borghesani, Paugam, DuPre, and Bellec](https://arxiv.org/html/#bib.bibx2)\], with tens of hours of whole-brain recordings per participant, makes it feasible to train deep encoders on them. 出處: MultiFlow: Vision-Driven Multimodal fMRI Encoding via Stimulus-Informed Source Flow Matching(arXiv)

進入掃描器前的實用提醒

如果這項結果在更多人和重複掃描中仍然成立,大學影像中心的研究人員就能在預約稀缺的 MRI 時間前,先在電腦上測試電影片段。系統可以顯示各腦區的預測活動,並標記預測不確定的片段。醫院研究團隊也可能因此在請參與者觀看刺激序列前,減少丟棄的序列數量。

這種不確定性是這個想法最重要的部分,但它也有局限。MultiFlow 的不確定性尺度描述的是預測有多不確定;它並不是對人類生理或思考自然變異程度的測量。這份資料集沒有在保留出的實驗方案下,重複呈現相同刺激,因此作者無法判斷這些分散程度有多少來自生物變異,又有多少來自模型欠缺的知識。

這個系統也還沒準備好用於即時腦機介面。它的預設推論方式,對每個生成樣本都需要進行多次網路評估。在它能可靠地引導實驗之前,還需要以重複呈現、更多參與者和更快的推論速度進行測試。因此,它的承諾並不是說一個模型已在所有情境中取代一千個模型,而是腦部反應預測或許能同時提供一個有力的答案,以及懷疑這個答案的理由,而不必維持龐大的模型集成。

來源

arXiv,「MultiFlow: Vision-Driven Multimodal fMRI Encoding via Stimulus-Informed Source Flow Matching」