Global Technology Editor
一張照片過去在公共領域擁有不需多加說明的權威性。一張來自衝突區、街頭抗議或犯罪現場的照片,往往能在沒有人詢問它的生成方式前,就平息爭議。這種習慣從未像看起來那麼穩固,但生成式人工智慧揭露了這樣的弱點:光有影像本身已經不夠了。 新聞機構、法院以及各大平台現在不僅要問他們所看到的是什麼,還要追問它的來源、經手人,以及這些資訊是否仍可被證明。[1][3][8]
這就是為什麼「來源」(provenance)變得比單純偵測更重要。 C2PA標準作為一個針對內容來源與真實性的開放架構,理念是數位資產能夠攜帶以密碼學綁定的資訊,揭示其來源與編輯變化。[1][4][6][9] Adobe的Content Credentials(內容憑證)計畫也屬於同一領域。[4][10] 承諾的並非元資料能神奇地驗證真相,而是能保存圖片、影片、音訊及文件的管理鏈,讓竄改行為難以悄無聲息地進行。
C2PA官方說明明確表達,來源資料有助於確定數位內容的起源、歷史與真實性,但本身無法證明影像完全符合事實。[1][6][9] 許多公開辯論往往忽略這點。 真實照片仍可能誤導觀眾;合成影像可以誠實標記;經過操控的檔案可能被剝除原本助於審核的痕跡。 換言之,問題不只是造假,而是「背景的崩解」。
偵測技術依舊有用,但不再是穩定根基。 美國國家標準技術研究院(NIST)將合成內容偵測分為三大類:來源資料方法、自動內容分析,以及人力輔助審查。[11][13] 深偽影像鑑識文獻指出這種劃分重要性:自動化偵測器能發現異常,但容易受快速模型更新干擾;人力審查成本高且較慢。[2][7] 實務的教訓很殘酷:驗證正逐漸演變為一套制度,而非單一工具。
這套制度已零星存在於嚴肅新聞業中。 像是主要新聞組織的驗證團隊及開放式資源調查者,例如Bellingcat,建立了以地理定位、元資料檢查、反向圖像搜尋,以及與衛星影像或其他公開紀錄比較的常規程序。[3][5][8][12] 他們的工作歷來比起軟體,更依賴懷疑精神。 人工智慧帶來的挑戰在於必須大規模運用同樣技術,且說服力強烈的假消息成本持續下降,而驗證的成本卻依然高昂。
對機構而言,動機並不一致。 平台追求暢通無阻的分享,創作者想要低成本製作,出版商重視速度同時需要法律責任保護與觀眾信任。 監管機構則開始將合成媒體視為更廣泛治理問題的一環,而非僅是小眾技術困擾。[11][13] 這也是為何來源標準受到關注的原因:它提供一種理論上可跨越供應商與國界的通用語言。 但標準只有在生態系統廣泛採用、成為常態時才有意義。
還有地緣政治面的影響。 如果數位媒體變得更難以信任,舉證起源、管理與背景的人便掌握主導優勢。 這種優勢不僅屬於模型開發者,也會屬於相機製造商、作業系統、軟體套件、檔案系統和大型平台——這些能在日常作業中嵌入來源資訊者。 從這意義上說,人工智慧基礎建設正在成為資訊基礎建設,資訊基礎建設也日益成為國家韌性的一部分。
然而,限制同工具一樣重要。 來源資料可能會在檔案重新匯出、擷取螢幕截圖、透過剝除元資料的系統轉貼內容,或平台未能保存憑證時遺失。[1][4][6] 這些都不代表來源資料無用,而是使其變成具有條件的資訊。 開放的問題是,消費者、法院和編輯能否學會將缺失的來源當作訊號,而非事後補充。 這需要習慣、標準及法律認可,而非僅僅是軟體功能。
同時值得坦率指出,目前仍有許多不確定性。 尚無單一標準成為普世答案,任何驗證系統也無法完全解決偽造背景、選擇性剪輯或以真實素材構建具說服力謊言的問題。 什麼會改變這一局面?主要相機與軟體生態系統的廣泛採用、法院與新聞業的正式政策,以及來源系統間更強的互操作性。 沒有這些,真實性將繼續是一種協商結果,而非理所當然。 市場可能偏好簡化,但公共紀錄通常無法允許這種簡單化。長遠來看,影像作為證據並未消亡,而是證據必須比相機時代教給我們的更謹慎地製作、保存與爭論。 這將在未來多年重塑新聞學、法律實務和數位記憶,未來還應觀察來源是否成為常態,或仍僅是少數精英的謹慎標記。
參考來源
參考來源
正文中的小編號標籤對應下方參考來源。
- C2PA and Content Credentials Explainer :: C2PA Specifications
- Deepfake Media Forensics: Status and Future Challenges
- How Bellingcat Detects Fake Photos Using Forensics | VerClood Pro Blog
- Content Credentials : C2PA Technical Specification :: C2PA Specifications
- tl;dr: Interesting read, recommended if you want to know more about OSINT but unintentionally orientalist AF | Shaf Choudry
- C2PA and Content Credentials Explainer
- Deepfakes and Synthetic Media: Generation, Detection, and Governance
- Open source intelligence, with Bellingcat's Giancarlo Fiorella
- [PDF] 1. Introduction - C2PA
- What Is the C2PA Standard? How It Works and Its Limits
- 2024 NIST GenAI (Pilot Study)
- bellingcat global legal action network
- NIST.AI.600-1.GenAI-Profile.ipd.pdf
推薦文章
技術、謎團與揭露
為何政府在不明異象案件中偏好模糊其詞而非否認