转发视频会丢失 AI 溯源信息

在各大社交平台上，AI 标签正变得越来越普遍，但让这些标签能够随视频一起传播的溯源链条，仍然是薄弱环节。研究人员审查了 Instagram、TikTok、X 和 YouTube Shorts 上的 10,722 条公开帖子，发现由专家识别出的深度伪造内容中，只有大约三分之一带有平台添加的标签。如果平台能够保留并传递这些记录，一家人在观看一段据称记录洪水的视频时，无论片段出现在哪里，都可能看到同样的 AI 来源标记。

一个人刷到伪造的战争画面，或某位政治人物的逼真假视频时，通常没有可靠办法判断它究竟来自摄像机，还是由生成器制作。能够回答这个问题的信息，可能会随着文件的上传、下载、编辑和转发而消失。一段视频可以跨越多个平台，却不带任何明显线索，说明它来自哪里。

视频背后的溯源链条

这种缺失的信息叫作溯源信息。它记录文件的来源，或记录制作文件时是否使用了人工智能。加密溯源元数据的设计方式，就像附在文件上的一张签名便笺。水印则试图让同一事实对人可见。

两者都不难被破坏。转换文件、截屏，或让平台处理文件，都可能删除元数据。可见水印可以被裁掉或遮住。只根据像素进行判断的检测器只能猜测，而随着生成的图像和视频变得越来越逼真，这种判断会越来越困难。

标签回答的问题，也比许多人以为的更狭窄。它可以说明内容是用 AI 制作或修改的，但不能说明内容中的说法是否属实。真实画面可能误导人，而合成插图也可能没有危害。

根据《欧盟人工智能法案》，生成式 AI 系统的提供者必须让其输出内容具备机器可读性。《数字服务法》要求最大的社交平台应对系统性风险，但没有规定统一的标签设计或检测方法。

止步于平台门口的标签

一项对 Instagram Reels、TikTok、X 和 YouTube Shorts 的审计发现，自动标签如今已在这四项服务上运行。创作者可以自行添加标签，但平台也会在创作者没有承认的情况下添加一些标签。

薄弱环节在于文件转移之后会发生什么。研究人员发现，平台通常会从下载后重新上传的文件中删除原有的 AI 溯源信号。TikTok 似乎会始终将信号附加到由 TikTok 自己添加的标签上，但这并没有在不同服务之间形成共享的溯源链条。

这项审计使用与 AI 和系统性风险相关的关键词，收集了 10,722 条公开图片和视频帖子，然后对其中一部分进行了人工审查。在通过风险相关搜索识别出的 43 条深度伪造内容中，只有大约三分之一带有平台添加的 AI 标签。这些帖子的浏览量中位数为 160,000；在有浏览量数据的帖子中，平均浏览量为 8 million。

研究人员还上传了来自 10 个生成式 AI 工具的文件。在上传前带有可检测溯源信号的源文件中，有 61% 在 24 小时内获得了自动标签。在测试的上传内容中，Instagram 添加标签的数量最多，其次是 TikTok、X 和 YouTube。结果是，这套系统能够识别部分合成媒体，却常常破坏其他服务再次识别它所需的证据。

标记随片段传播

如果平台能够保留溯源信号、持续一致地检查这些信号，并在每次重新上传时都添加同样醒目的标签，那么一家人在厨房里观看一段据称记录洪水的短视频时，无论片段是通过 Instagram、TikTok、X 还是 YouTube 传来的，都可能看到同样简单明了的 AI 来源标记。他们不必打开说明文字，也不必寻找画面瑕疵，才能决定应该在多大程度上相信这段视频。

这样一来，溯源信息就能成为一种共享基础设施，而不只是自愿佩戴的徽章。与逐一根据像素判断每张图片相比，它可以为平台提供一种成本更低、也更容易辩护的文件标注方式。它还可以让审计人员和监管机构获得关于平台标注了什么、为何标注的可比信息，同时让创作者更清楚地将已披露的合成作品，与以欺骗方式呈现的内容区分开来。

要实现这样的未来，这些记录必须经得住编辑和传播，平台必须在不同服务之间传递它们，标签也必须醒目且可靠。否则，一段未加标签的片段仍会被误认为是真实性的证据。这篇论文是一份尚未发表、未经同行评审的预印本，其作者将研究结果描述为一次具有特定时间和特定背景的审计，而不是对法律合规情况的评估。

来源

Drowning in AI Slop: How Social Media Platforms (Do Not) Label AI and Deepfake Content under EU law