再投稿された動画ではAIの出所情報が失われる

AIラベルは主要なソーシャルプラットフォームで当たり前のものになりつつあるが、そのラベルを動画とともに移動させる出所情報の経路は、いまだに弱点である。研究者がInstagram、TikTok、X、YouTube Shortsに公開された10,722件の投稿を調べたところ、専門家が特定したディープフェイクのうち、プラットフォームが付けたラベルがあったのはおよそ3件に1件だけだった。プラットフォームが記録を保持して引き継げば、家族の誰かが洪水だとされる動画を見たとき、その動画がどこに現れても同じAI由来の目印を確認できる。

捏造された戦争映像や、政治家を写した現実的な偽物をスクロールして通り過ぎる人は、それがカメラで撮影されたのか、生成器で作られたのかを確実に見分ける方法を通常は持たない。その問いに答えられる情報は、ファイルがアップロードされ、ダウンロードされ、編集され、再投稿される過程で消えることがある。動画は、どこから来たのかを示す目に見える手がかりを何も持たずに、複数のプラットフォームを渡り歩くことがある。

動画の背後にある経路

この失われた情報はプロベナンス（出所情報）と呼ばれる。これはファイルの起源や、ファイルの作成に人工知能を使ったことを記録するものだ。暗号学的なプロベナンスのメタデータは、ファイルに署名付きのメモを添付するように機能するよう設計されている。ウォーターマークは、同じ事実を人々に見える形にしようとするものだ。

どちらも損なわれにくいわけではない。ファイルを変換したり、スクリーンショットを撮ったり、プラットフォームに処理させたりすると、メタデータが削除されることがある。目に見えるウォーターマークは切り取ったり、覆い隠したりできる。ピクセルだけを判定する検出器は推測しなければならず、生成された画像や動画がより現実的になるほど、その作業は難しくなる。

ラベルが答える問いは、多くの人が考えるより狭い。ラベルは、コンテンツがAIによって作られたか、変更されたかを示せる。しかし、そのコンテンツ内の主張が真実かどうかは示せない。本物の映像が人を誤解させることもあれば、合成されたイラストが無害なこともある。

EU AI法では、生成AIシステムの提供者は、その出力を機械可読にしなければならない。デジタルサービス法は最大規模のプラットフォームにシステミックリスクへの対処を求めているが、単一のラベル設計や検出方法を定めてはいない。

プラットフォームの入り口で止まるラベル

Instagram Reels、TikTok、X、YouTube Shortsを調べた監査では、自動ラベルが現在、4つすべてのサービスで機能していることが分かった。クリエーターは自分でラベルを付けられるが、プラットフォームも、作成者の告白を待たずに一部のラベルを付けている。

弱点は、ファイルが移動した後に何が起きるかである。研究者によると、プラットフォームは一般に、ダウンロードされたアップロードから元のAIプロベナンスのシグナルを取り除いていた。TikTokは、TikTok自身が付けたラベルにシグナルを一貫して添付しているように見えたが、それによってサービス間で共有される経路が生まれたわけではない。

監査では、AIとシステミックリスクに関連するキーワードを使い、公開された画像と動画の投稿10,722件を集め、その一部を手作業で調べた。リスクに関連する検索で専門家が特定したディープフェイク43件のうち、プラットフォームが付けたAIラベルがあったのはおよそ3件に1件だけだった。これらの投稿の視聴回数の中央値は16万回で、視聴回数のデータが得られた投稿では平均800万回だった。

研究者は、10種類の生成AIツールからファイルをアップロードするテストも行った。アップロード前に検出可能なプロベナンスのシグナルを持っていた元ファイルのうち、61%が24時間以内に自動ラベルを受け取った。テストしたアップロードに最も多くラベルを付けたのはInstagramで、次いでTikTok、X、YouTubeだった。その結果、システムは合成メディアの一部を認識できるものの、別のサービスが再び認識するために必要な証拠を壊してしまうことが多いことが分かった。

目印が動画とともに移動するとき

プラットフォームがプロベナンスのシグナルを保持し、それを一貫して確認し、再アップロードされるたびに同じ目に見えるラベルを付ければ、家族のいる台所で洪水だとされる動画を見ている人は、その動画がInstagram、TikTok、X、YouTubeのどれを通じて届いた場合でも、同じ分かりやすいAI由来の目印を確認できる。キャプションを開いたり、映像の不自然な部分を探したりしてから、どの程度信頼するかを判断する必要はなくなる。

そうなれば、プロベナンスは任意のバッジではなく、共有インフラとして役立つことになる。あらゆる画像をピクセルから判定するよりも、ファイルにラベルを付ける、より安価で正当性を説明しやすい方法をプラットフォームに与えられる可能性がある。また、プラットフォームが何に、なぜラベルを付けたのかについて、監査人や規制当局に比較可能な情報を提供できるほか、クリエーターには、合成作品であることを明示したコンテンツと、偽って提示された素材を区別する、より明確な方法を与えられる可能性もある。

この未来を実現するには、記録が編集や配信を経ても残り、プラットフォームがサービス間で記録を引き継ぎ、ラベルが目立ち、信頼できるものでなければならない。そうでなければ、ラベルのない動画が依然として本物であることの証拠だと誤解される。この論文は未発表で査読を受けていないプレプリントであり、著者らは結果を、法令順守の評価ではなく、特定の時点と文脈に限った監査として説明している。

出典

Drowning in AI Slop: How Social Media Platforms (Do Not) Label AI and Deepfake Content under EU law