AI 生成圖片愈來愈逼真，單靠肉眼判斷真假，已經愈來愈不可靠。OpenAI 最近終於認真處理 AI 影像的來源問題，宣布透過 ChatGPT、Codex 及 API 生成的圖片，將會加入 C2PA metadata （內容來源） 及 SynthID （隱形數碼浮水印），以協助外界識別圖片是否由 AI 生成。
一個像身份證，一個像暗號
C2PA metadata 可以理解為圖片檔案的「身份紀錄」。它不是記錄光圈、快門、ISO 那類傳統 EXIF 資料，而是記錄圖片怎樣被建立、是否經過 AI 工具處理，以及相關來源資訊。這類 metadata 的好處是資料清楚，對新聞機構、平台審核或內容查證都有幫助。
不過，metadata 最大弱點是：它可以被移除。圖片只要經過某些重新輸出、截圖、轉檔或平台壓縮流程，原有 metadata 就有機會消失。所以 C2PA 可被視為一套給可信創作者和平台使用的來源聲明機制，而不是萬能防偽鎖。
SynthID 則是另一種路線。它是 Google 開發的隱形數碼浮水印技術，標記不是附在檔案外層，而是嵌入圖像訊號之中。換句話說，即使圖片經過裁切、濾鏡、壓縮或截圖，這個隱藏訊號仍有機會被偵測到。它不像肉眼可見的水印，不會破壞畫面，但需要特定工具才可以驗出。
科技對真實影像的誤傷？
最近 Tokina 的攝影比賽中有一場風波。原本奪下總冠軍的作品，因為被搜出藏有 SynthID 隱形浮水印而遭到取消資格。這個案例有趣的地方在於，這張照片未必是完全由 AI 憑空生成。
▲Tokina 攝影比賽中被撤冠軍的相片
由於 SynthID 會在影像被 AI 工具顯著修改或放大時自動植入，這位攝影師可能只是使用了具備 AI 功能的修圖軟體來處理天空或提升畫質。但對比賽主辦方與網民而言，只要偵測器亮起了紅燈，這張照片的誠信就已經崩塌。這令許多創作者感到不安，畢竟在追求理想畫面的過程中，AI 工具與傳統修圖的界線已變得非常模糊。
OpenAI 推出圖片驗證工具
除了在生成圖片加入識別標記，OpenAI 亦推出了圖片驗證網站 "Verify"，讓用戶上載圖片，檢查檔案中是否含有 OpenAI 生成圖片相關的 C2PA metadata 或 SynthID 隱形數碼浮水印。如果系統偵測到相關訊號，便可作為圖片曾經由 OpenAI 工具生成的線索。不過，這個工具並不是「真假圖片判官」，它主要檢查的是來源標記，而不是判斷畫面內容是否真實；若圖片經過重新輸出、截圖、壓縮，或本身由其他 AI 工具生成，也未必一定能夠識別。
▲來自於 OpenAI 網頁的截圖
OpenAI 今次同時採用 C2PA metadata 及 SynthID 隱形數碼浮水印，代表 AI 生成圖片的來源標記正在由「可有可無」變成基本責任。對平台和媒體來說是一個必要步驟，對影像創作者來說亦可能是未來保護作品可信度的一部分。
只是，技術永遠只能堵住一部分漏洞。AI 假圖問題真正麻煩之處，不在於它能否被偵測，而在於它出現的速度、擴散的速度，以及人們願不願意查證。
資料來源：OpenAI、petapixel
