2026年10月19日
Technology Watch

从实验室到产业,追踪新技术的路径

← 返回首页

arXiv

fMRI 编码无需千模型集成也能接近最佳效果

AI 绘制的示意图

单个生成式编码器就能达到大型 fMRI 模型集成的准确度,同时生成多种合理的脑反应。作者在四名参与者的数据上评估了 MultiFlow,并在熟悉的电影素材上达到了一个 1000 模型集成所报告的表现。如果它对新参与者和新刺激的预测不确定性仍能保持良好校准,研究人员就可以在让志愿者进入 MRI 扫描仪之前,先在计算机上筛选实验。

预测一个人的大脑将如何回应一部电影,并不像预测他们会不会笑。同一个场景每次产生的脑信号并不完全相同,但如今的系统通常只返回一个类似平均值的答案。最准确的结果往往来自训练并取平均的几十个到数千个独立模型。这需要时间和计算能力,而当系统没有多少理由相信自己的结果时,最终答案仍可能显得很有把握。

为什么预测脑反应很困难

功能性磁共振成像(fMRI)不会直接记录思想。它追踪血液中的氧含量变化,这只是神经活动的一种间接且滞后的信号。编码模型从一个人看过或听过的内容出发,预测随后出现的 fMRI 信号。这与解码相反,解码试图根据脑部测量结果推断刺激。

使用平方误差训练的常规回归系统,往往会生成条件平均值:也就是同一个场景可能引发的多个结果之间的中间答案。皮尔逊相关系数衡量的是,预测信号随时间上升和下降的变化,与测量信号有多一致。它并不能证明模型理解大脑为何会产生这样的反应。

这篇论文在四名参与者观看的视听素材上测试了该系统,同时 fMRI 记录了他们的全脑活动。模型使用电影中的图像、声音和字幕文本,并结合了十个已经训练好的视觉、音频、语言和视听模型提取的特征。它预测整个皮层的活动,而不只是某个小区域的活动。

Refer to caption
Figure 2: Three views of fMRI encoding (schematic).(a) Deterministic regression maps the stimulus 𝐱\\mathbf{x} to a single point estimate 𝐲^\\hat{\\mathbf{y}} (red), collapsing the target BOLD distribution onto its conditional mean. (b) Standard CFM draws source samples 𝐳0\\mathbf{z}\_{0} (orange) from a fixed Gaussian p0=𝒩⁡(𝟎,𝐈)p\_{0}=\\mathcal{N}(\\mathbf{0},\\mathbf{I}) and transports each to pdata≈p⁡(𝐲∣𝐱)p\_{\\text{data}}\\!\\approx\\!p(\\mathbf{y}\\mid\\mathbf{x}) along a long ODE path. (c) MultiFlow (ours) draws the *same* samples from a *stimulus-conditioned* source p0​(𝐳0∣𝐱)=𝒩⁡(𝝁ϕ​(𝐱),σϕ​(𝐱)2​𝐈)p\_{0}(\\mathbf{z}\_{0}\\mid\\mathbf{x})=\\mathcal{N}\\!\\bigl(\\boldsymbol{\\mu}\_{\\phi}(\\mathbf{x}),\\sigma\_{\\phi}(\\mathbf{x})^{2}\\mathbf{I}\\bigr)whose 𝝁ϕ\\boldsymbol{\\mu}\_{\\phi} and σϕ\\sigma\_{\\phi} are *learned* to place the source closer to the target, shortening the expected transport path. In (b,c) the curves are independent samples from a *single* model; the panels differ only in the source distribution.## 2 Related Work 出处: MultiFlow: Vision-Driven Multimodal fMRI Encoding via Stimulus-Informed Source Flow Matching(arXiv)

一个模型,多种可能的脑反应

MultiFlow 将任务从选择一个反应改为生成多条合理的反应路径。它使用一个训练好的模型检查点,然后在测试时对少量生成样本取平均。这样做是为了捕捉这样一个事实:同一个刺激可能对应不止一种合理的脑反应。

这些样本从哪里开始,是其中的关键。在普通的流匹配中,生成式系统从一团固定的随机噪声开始,沿着一条数学路径逐步将每个样本传输到目标分布。MultiFlow 则从一团由刺激本身塑造的噪声开始。视觉、音频和语言内容为起点提供了有用的方向,因此通往某种 fMRI 反应的路径更短。

这种方法被称为刺激知情源流匹配(Stimulus-Informed Source Flow Matching,SISFM)。图 2 将它与确定性预测和标准流模型进行了对比。重要的区别并不在于 MultiFlow 使用了许多分别训练的模型,而在于它从一个模型中抽取不同的可能性。

在分布内的 Friends 测试集上,MultiFlow 报告的每个分区平均皮尔逊相关系数为 0.3163。由 1000 个模型构成的报告中所述集成模型得分为 0.3195。在六部训练时未见过的电影上,该模型的得分有所下降,但仍接近一个 50 模型集成所报告的结果。作者还报告称,在使用相同架构的情况下,将普通的均方误差回归替换为 SISFM,使验证集相关系数从 0.2760 提高到了 0.3213。

Refer to caption
Figure 1: Overview of the MultiFlow pipeline.Time-aligned *visual frames*, *audio samples*, and *transcripts* pass through ten frozen foundation-model backbones; the fused representation drives a generative model that synthesises whole-brain fMRI activity over the Schaefer-1000 parcellation. Rather than a single point estimate, MultiFlow models the stimulus-conditioned BOLD distribution via Stimulus-Informed Source Flow Matching (SISFM).Naturalistic paradigms in which participants watch movies during fMRI scanning have become a standard setting for studying how the brain integrates vision, language, and sound over time (Figure [1](https://arxiv.org/html/#S1.F1 "Figure 1 ‣ 1 Introduction ‣ MultiFlow: Vision-Driven Multimodal fMRI Encoding via Stimulus-Informed Source Flow Matching")). Encoding models that predict cortical responses from such stimuli give a principled way to probe this integration \[[Yamins and DiCarlo(2016)](https://arxiv.org/html/#bib.bibx33)\], and the Algonauts 2025 dataset \[[Gifford et al.(2025b)Gifford, Bersch, St-Laurent, Pinsard, Boyle, Bellec, Oliva, Roig, and Cichy](https://arxiv.org/html/#bib.bibx8), [Boyle et al.(2023)Boyle, Pinsard, Borghesani, Paugam, DuPre, and Bellec](https://arxiv.org/html/#bib.bibx2)\], with tens of hours of whole-brain recordings per participant, makes it feasible to train deep encoders on them. 出处: MultiFlow: Vision-Driven Multimodal fMRI Encoding via Stimulus-Informed Source Flow Matching(arXiv)

扫描前的一个有用提醒

如果这一结果在更多人和重复扫描中都成立,大学成像中心的研究人员就可以在预约紧张的 MRI 时间之前,先在计算机上测试电影片段。系统可以显示各个脑区的预测活动,并标记预测不确定的片段。医院研究团队也可能因此在让参与者观看刺激序列之前,减少被丢弃的序列数量。

这种不确定性是这一想法最重要的部分,但它也有局限。MultiFlow 的不确定性尺度描述的是预测有多不确定,而不是衡量人的生理或思维有多大的自然变化。该数据集没有在留出协议下重复呈现同一个刺激,因此作者无法判断这种分散程度有多少来自生物学变化,又有多少来自模型知识的不足。

这个系统也还没准备好用于实时脑机接口。它的默认推理过程需要对每个生成样本进行多次网络评估。在它能够可靠地指导实验之前,还需要通过重复呈现、更多参与者和更快的推理速度进行测试。因此,它所带来的希望并不是说一个模型已经在所有场景中取代了一千个模型,而是说,脑反应预测或许可以同时给出一个强有力的答案,以及怀疑这个答案的理由,而不必维护一个庞大的模型集成。

来源

arXiv,《MultiFlow:通过刺激知情源流匹配进行视觉驱动的多模态 fMRI 编码》