arXiv
轉發影片失去 AI 溯源
AI 標籤在各大社群平台上已變得稀鬆平常，但能讓標籤隨影片一起傳遞的溯源鏈，仍是薄弱環節。研究人員檢查了 Instagram、TikTok、X 和 YouTube Shorts 上 10,722 則公開貼文，發現由專家辨識出的深偽內容中，只有大約三分之一獲得平台加上的標籤。如果平台保留並傳遞這些紀錄，一家人在觀看一段聲稱是洪水的影片時，無論影片出現在哪裡，都能看到相同的 AI 來源標記。
一個人滑過偽造的戰爭畫面，或一名政治人物的逼真假影片時，通常沒有可靠的方法判斷它究竟來自相機，還是由生成器製作。能回答這個問題的資訊，可能會在檔案上傳、下載、編輯和轉發的過程中消失。一段影片可能帶著完全看不出來源的狀態，跨越好幾個平台。
影片背後的溯源鏈
這些缺失的資訊稱為溯源。它是檔案來源的紀錄，或是使用人工智慧製作檔案的紀錄。加密溯源中繼資料的設計，就像附在檔案上的簽名紙條。浮水印則試圖讓人們看得見同一項事實。
兩者都不難被破壞。轉換檔案、截圖，或讓平台處理檔案，都可能移除中繼資料。可見的浮水印則可能被裁掉或遮住。只根據像素判斷的偵測器必須猜測，而隨著生成的影像和影片變得更逼真，這項工作也會越來越困難。
標籤回答的問題，也比許多人以為的更狹窄。它可以說明內容是用 AI 製作或修改的，卻不能說明內容中的說法是否為真。真實畫面可能誤導人，而合成插圖也可能沒有害處。
根據歐盟《人工智慧法案》，生成式 AI 系統的提供者必須讓其輸出具備機器可讀性。《數位服務法》要求最大的各大平台處理系統性風險，但沒有規定單一的標籤設計或偵測方法。
止於平台門口的標籤
一項針對 Instagram Reels、TikTok、X 和 YouTube Shorts 的審查發現，這四項服務現在都在使用自動標籤。創作者可以自行新增標籤，但平台也會在不等待創作者承認的情況下，自行加上一些標籤。
薄弱之處在於檔案移動之後會發生什麼事。研究人員發現，平台通常會從下載後重新上傳的檔案中剝除原有的 AI 溯源訊號。TikTok 似乎會持續將訊號附加到由 TikTok 自己加上的標籤，但這並沒有在各項服務之間建立共享的溯源鏈。
這項審查使用與 AI 和系統性風險相關的關鍵字，蒐集了 10,722 則公開的圖片和影片貼文，接著人工檢查其中一個樣本。在透過與風險相關的搜尋辨識出的 43 則深偽內容中，只有大約三分之一擁有平台加上的 AI 標籤。這些貼文的觀看次數中位數為 160,000；在有觀看數據的貼文中，平均值為 8 million。
研究人員也上傳了來自十種生成式 AI 工具的檔案。在上傳前帶有可偵測溯源訊號的來源檔案中，有 61% 在 24 小時內獲得自動標籤。在受測的上傳檔案中，Instagram 加上的標籤最多，其次是 TikTok、X 和 YouTube。這形成了一套能辨識部分合成媒體的系統，但它經常破壞另一項服務再次辨識這些媒體所需的證據。
當標記隨著影片一起傳遞
如果平台保留溯源訊號、一致地檢查這些訊號，並在每次重新上傳時加上相同的可見標籤，那麼一個人在家庭廚房裡觀看一段聲稱是洪水的影片時，無論影片是透過 Instagram、TikTok、X 還是 YouTube 傳來的，都能看到相同、清楚的 AI 來源標記。他們不必打開說明文字，也不必尋找畫面瑕疵，才能決定要對這段影片抱持多少信任。
這會讓溯源成為共享基礎設施，而不只是自願佩戴的徽章。相較於根據每張圖片的像素進行判斷，它可能為平台提供一種更便宜、也更站得住腳的檔案標籤方式。它也能讓稽核人員和監管機構取得各平台標籤了什麼、以及為什麼標籤的可比較資訊，同時讓創作者更清楚地區分已揭露的合成作品與以欺騙方式呈現的素材。
要讓這個未來到來，這些紀錄必須在編輯和傳播過程中留存，平台必須在各項服務之間傳遞這些紀錄，而標籤也必須醒目且可靠。否則，沒有標籤的影片仍會被誤認為真實性的證據。這篇論文是一份尚未發表、未經同儕審查的預印本，其作者將研究結果描述為特定時間、特定情境下的審查，而不是對法律遵循情況的評估。