AI影像欺詐明年將造成400億美元損失——這些國際標準能幫上忙嗎？
國際標準組織正加緊制定影像真實性標準，以應對深度偽造和AI生成內容氾濫。新的JPEG Trust標準旨在為使用者提供驗證工具，但專家指出，信任是依賴於上下文的。
隨著AI生成影像的泛濫，人們越來越難以區分真實照片和深度偽造內容。這一問題對新聞、社交媒體乃至司法證據等領域產生了深遠影響。據德勤金融服務中心估計，到2027年，美國因生成式AI導致的欺詐損失將從2023年的123億美元激增至400億美元。
為了應對這一挑戰，國際標準化組織（ISO）和國際電工委員會（IEC）正在推進JPEG Trust標準。該標準最初於去年釋出，旨在將信任指標以後設資料形式嵌入JPEG檔案。最近，該標準新增了兩部分：JPEG Trust第2部分介紹了信任配置檔案片段和報告模板，可用於廣播、數字相機、AI內容生成等特定工作流程；第3部分引入了媒體資產水印技術。
瑞士聯邦理工學院教授Touradj Ebrahimi表示，JPEG Trust的目標不是為了給內容貼上“可信”或“不可信”的標籤，而是為使用者提供自行判斷的工具。他指出，欺詐者不會主動標註其內容為AI生成，因此標準側重於讓使用者根據自身上下文和需求決定是否信任。Ebrahimi強調，信任是高度依賴上下文的，同一使用者在不同情境下可能做出不同判斷。
目前，識別和打擊深度偽造的努力仍較為分散，各公司推廣自己的解決方案。IEC和ISO認識到需要公認的行業標準。除了JPEG Trust，還有多項標準正在開發中，包括原始檔配置框架（Originator Profile）、AI訓練資料使用限制的標準化詞彙（Vocabulary for expressing content preferences for AI），以及多媒體內容驗證框架H.MMAUTH。這些標準共同構成了AI與多媒體真實性及標準倡議的一部分，旨在為使用者和公司提供全面工具來驗證內容真實性。
H.MMAUTH框架基於數字簽名技術，內容創作者使用私鑰對資料流簽名，接收方透過公鑰驗證。公鑰需透過可信第三方獨立獲取，確保驗證的可靠性。同時，標準化詞彙允許內容所有者以機器可讀方式表達對AI訓練資料使用的限制或許可，促進互操作性。
Ebrahimi指出，2018年IEC和ISO的JPEG委員會首次注意到JPEG檔案被用於傳播虛假影像的問題，如今AI生成影像氾濫，標準必須擴充套件以幫助使用者驗證接收到的影像。他預測，最終哪一種標準能成為主流仍是未知數，但行業共識是迫切需要通用標準。