政策民生

AI影像漏標也能檢舉 數發部擬促Meta、Google建立3層辨識機制

規劃涵蓋使用者主動揭露、平台技術偵測與檢舉申訴;真正難題在跨平台轉傳、標籤保留、誤判更正與選舉期間的處理速度。

閱讀工具
民眾在手機社群平台檢視人工智慧生成影像標示新聞示意圖
示意圖

上傳者沒有標示的AI影像,平台能不能主動辨識、讓使用者檢舉?數發部擬推3層機制,促Meta、Google、LINE等平台透過主動揭露、技術偵測及檢舉申訴,處理生成影像漏標問題。假災情、合成人物與偽造發言可以在短時間內流傳,標示能否在截圖和跨平台轉傳後留下,成為這套規劃的實際難題。

第一層由上傳者主動勾選最直接,也最容易被惡意帳號跳過。一般創作者若用AI製作插畫、廣告或娛樂內容,清楚標示可以降低誤解;刻意製作假災情、假政治人物或假投資背書的人,本來就沒有動機誠實揭露。平台不能把整套制度建立在自律上,否則最需要被辨識的內容反而最可能沒有標籤。

第二層依賴浮水印、檔案憑證、模型產生的中繼資料和影像特徵。內容若直接從生成工具上傳,平台較容易讀取來源;一旦被截圖、裁切、壓縮、加字幕或重新錄製,原始訊號可能消失。偵測模型也可能把重度修圖、遊戲畫面或藝術作品誤判為生成內容,技術結果必須附帶申訴與人工覆核,不能用一個標籤直接宣告作者造假。

第三層檢舉申訴決定制度能否處理高風險事件。假圖在選舉、災害、戰爭或金融市場中可能在數小時內大量轉傳,平台若一週後才處理,標示已失去阻止混淆的效果。數發部與平台需要定義加速案件,包括冒用候選人、偽造政府公告、虛構重大傷亡及誘導匯款,並公開收到通報到作成處置的時間。

標籤文字也不能含糊。只寫「可能經數位修改」會把手機自動美化、一般剪輯和全生成內容混在一起;較有用的分類應區分完全生成、關鍵人物或場景經合成、局部AI後製,以及來源憑證無法確認。讀者需要知道畫面的證據價值,不是接受一個什麼都涵蓋的免責小圖示。

跨平台轉傳是最大破口。一張在原平台帶有標籤的圖片,被下載後丟到通訊群組、論壇或另一個社群,提示可能跟著消失。平台可以保留內容憑證、對重複影像比對雜湊,並在轉貼時重新顯示來源狀態;政府則應推動共通格式,避免每家公司各用一套互不相認的標籤。

政策也要避免把匿名與諷刺創作全部變成風險內容。漫畫、迷因與明顯虛構的創作仍有表達空間,標示的目的在降低誤認,不是審查立場。平台處理時應看畫面是否足以讓合理使用者誤以為真實、是否冒用身分及是否伴隨詐騙或操縱行為,而不是只看內容是否批評政府或政治人物。

對媒體、政黨與政府機關,標準應比一般帳號更高。官方宣傳若使用AI示意圖,應在原圖、貼文與下載版本都保留標示;新聞媒體使用生成圖時,要避免讓讀者以為記者拍到現場。若合成內容被錯誤發布,撤下之外還要留下更正紀錄,讓已被截圖轉傳的人可以查到原始處理。

數發部目前提出的是治理架構,成效要靠可量化資料驗證。平台應定期公布主動標示率、技術補標數、申訴翻轉率、高風險案件處理時間及標籤跨平台保留率。只有看到錯誤與修正,外界才能知道系統是在真正降低誤認,還是只在畫面角落加上一個不會被注意的符號。

數發部提出的3層機制,目前仍是與平台討論的治理方向,尚不能視為所有服務都已有相同功能。使用者能否在上傳時揭露、畫面是否自動顯示標籤、漏標後如何檢舉,要依各平台實際介面與規範辦理。同一張合成圖經過截圖再轉傳,可能在不同服務呈現不同狀態;這也是主動揭露之外,政策還納入技術偵測與申訴管道的原因。標籤提供來源線索,畫面描述的事件仍需其他證據支持。