2026年10月19日
Technology Watch

从实验室到产业,追踪新技术的路径

← 返回首页

arXiv

视觉 fMRI 解码器从扫描前就开始工作

AI 绘制的示意图

一个共享的视觉 fMRI 解码器,将彼此分开的脑成像档案转化为互相提供训练材料的数据,尽管它所使用的共同几何结构部分借鉴自 CLIP。作者在八个数据集上训练了 BRAID-fMRI,并报告称,在八名匹配的参与者中,平均 Top-10 检索准确率为 35.0%。在医院的成像室里,如果这种迁移能够适用于临床数据,一项简短的标准化视觉任务就可能让研究人员搜索大型图像库,而不必先收集数小时的个体专属扫描数据。

如今,视觉 fMRI 解码器通常属于一个人和一项实验。fMRI 扫描仪测量的是血液含氧量的缓慢变化,而不是直接测量神经细胞的放电。这些测量结果还会随着人员、扫描仪、会话和任务的不同而变化。因此,新参与者往往需要进行校准扫描,新研究也可能需要自己的解码器。昂贵的脑成像数据仍然被困在彼此分开的数据集中,无法汇聚起来。

为什么旧方法难以迁移

解码器是一种试图从脑部测量结果反推出某人所看到图像的系统。一种常见方法是先预测视觉模型中的特征,然后在可能图像组成的图库中搜索最接近的匹配项。

这项工作使用了 CLIP——一种将含义相关的图像放置在彼此附近的视觉模型。一张狗的照片和另一张狗的照片,即使并不完全相同,也可能落在彼此很近的位置。这让解码器可以用来寻找某张图像或与之相似的图像,但也带来了一个警示:以 CLIP 为参照训练的解码器,可能会继承 CLIP 的类别体系。这并不能证明这些类别就是大脑自身的分类系统。

主要指标称为 Top-10 检索。系统会为候选图像排序;如果正确图像出现在前十个之内,就能获得相应的分数。分数取决于候选图像的数量以及候选图像的构成。解剖学配准可以让不同大脑中大致相似的区域对齐,但无法消除这些区域在功能运作方式上的差异。

为许多扫描提供一个共享起点

作者在八个视觉 fMRI 数据集上训练了一个名为 BRAID-fMRI 的模型。这些数据集合计包含 430,007 对单次试验的脑部测量结果和视觉刺激。模型将大脑划分为 379 个解剖区域,把每个区域的反应转换为一个标记,并使用共享的 Transformer 将它们组合起来。

随后,它将组合后的脑部模式映射到 CLIP 固定的 512 维图像空间中。简单来说,模型学会将一次扫描放置在产生该扫描的图像附近,同时也从其他数据集中收集的扫描中学习。因此,它可以把不同研究之间的差异当作训练材料,而不是将每项研究视为一个封闭的盒子。

作者报告了跨数据集和跨参与者的检索结果。在来自两个数据集的八名匹配参与者中,平均 Top-10 分数为 35.0%;相比之下,仅用于检索的基线为 27.1%,岭回归为 21.1%。在一项更严格的测试中,目标数据集、其中的参与者以及其中的刺激都被排除在训练之外。参与者特异性嵌入也被禁用。在报告的全部七种情况下,增加源数据集都提高了对保留目标数据集的表现;其中对 NSD 报告的最大增幅为 92.1%。

这就是重要的变化:迁移变成了一个共享预训练问题,而不是要求为每个人、每项实验分别构建或调整模型。

Refer to caption
Figure 1: \\sharpfontCross-dataset visual-fMRI harmonization and the BRAID-fMRI model.a, Visual stimuli are presented during fMRI acquisition, and single-trial responses are estimated to obtain stimulus-specific brain activity patterns. b, Eight visual-fMRI datasets spanning static-image and dynamic-video experiments are brought into a common processing framework. fMRI responses are represented using 360 HCP-MMP1.0 cortical parcels and 19 additional regions, while stimuli are represented in a common 512-dimensional CLIP ViT-B/32 image space. c, ROI-wise responses from participants in eight visual-fMRI datasets are mapped to ROI tokens and augmented with learned ROI embeddings and, in participant-conditioned analyses, learned participant embeddings. A Transformer shared across datasets and participants contextualizes the tokens, which are attention-pooled and projected into the 512-dimensional image space of a frozen CLIP ViT-B/32 encoder. Participant embeddings are omitted in the zero-shot transfer experiments. A multi-positive contrastive objective aligns neural responses with their corresponding stimuli while treating repeated observations of the same stimulus as positives. ### One model retrieves visual stimuli across datasets and participants 出处: Many Brains, One Geometry: A Shared Visual-Semantic Space for Cross-Dataset fMRI Decoding(arXiv)
Refer to caption
Figure 3: \\sharpfontSemantic organization, network contributions and zero-shot cross-dataset transfer.a, t-SNE visualization of 40 kk-means clusters obtained from normalized CLIP embeddings of unique validation stimuli. Ten clusters used for subsequent analyses are highlighted, with representative stimuli shown. b, Dataset composition of the selected clusters. Stacked bars show the number of unique stimuli contributed by each dataset. Cluster labels (C0–C39) denote arbitrary kk-means cluster identifiers and are unrelated to retrieval rank; ranks indicate ordering by Top-10 retrieval accuracy. c, Top: unique-stimulus Top-10 accuracy for all clusters, ordered by performance; bottom: number of unique stimuli in the same ordering. Every fourth cluster in the ranked sequence was retained, yielding ten clusters spanning the full performance range. d, Global unique-stimulus Top-10 accuracy after masking each functional or anatomical ROI group. The dashed line marks the unablated baseline; annotations give percentage-point changes. e,Dataset-specific ablation effects. f, Participant-level effects for the four most disruptive groups. Points denote participants, violins show distributions, boxes show medians and interquartile ranges, and black circles show means. Asterisks denote one-sided Wilcoxon signed-rank tests of retrieval impairment, with Benjamini–Hochberg correction across nine groups. g, Zero-shot participant and dataset transfer with participant embeddings disabled throughout training and evaluation. For each target, the entire dataset and all of its participants remain held out while source datasets and participants are cumulatively added to pretraining. Values are percentage changes relative to step 0; annotations report the net change from the first to the final step.### A shared visual backbone supports retrieval across datasets 出处: Many Brains, One Geometry: A Shared Visual-Semantic Space for Cross-Dataset fMRI Decoding(arXiv)

一个可用版本将带来什么变化

在医院的成像室里,参与者可能只需完成一项简短、标准化的视觉任务。之后,研究人员就可以搜索大型图像库,查找这个人看过的内容,而不必先收集许多个体专属的训练扫描小时数。小型实验室可以从一个基于汇总数据训练的解码器开始,脑机接口开发者也可以避免为每位用户构建大型定制数据集。

这一未来不仅取决于它在这批数据集中的高分。该结果必须经受独立重复验证,并且要能在临床上切实可行的数据量、扫描仪和不同于研究数据集的人群中发挥作用。模型的共享几何结构也部分由 CLIP 提供,因此它并没有证明可以直接获取某人的视觉体验,也没有揭示大脑原生的语义几何结构。视频数据集被缩减为其时间上的中心帧,这意味着这项工作并未分别证明能够解码动作或随时间发生的变化。作者还在训练和检查点选择期间使用了保留的评估数据,并监测一个小批次检索代理指标。在这些限制得到解决之前,最好将这项进展理解为一个可复用的起点,而不是一扇已经完工、能够窥见他人心智的窗口。

来源

Many Brains, One Geometry: A Shared Visual-Semantic Space for Cross-Dataset fMRI Decoding