AI图像欺诈明年将造成400亿美元损失——这些国际标准能帮上忙吗？
国际标准组织正加紧制定图像真实性标准，以应对深度伪造和AI生成内容泛滥。新的JPEG Trust标准旨在为用户提供验证工具，但专家指出，信任是依赖于上下文的。
随着AI生成图像的泛滥，人们越来越难以区分真实照片和深度伪造内容。这一问题对新闻、社交媒体乃至司法证据等领域产生了深远影响。据德勤金融服务中心估计，到2027年，美国因生成式AI导致的欺诈损失将从2023年的123亿美元激增至400亿美元。
为了应对这一挑战，国际标准化组织（ISO）和国际电工委员会（IEC）正在推进JPEG Trust标准。该标准最初于去年发布，旨在将信任指标以元数据形式嵌入JPEG文件。最近，该标准新增了两部分：JPEG Trust第2部分介绍了信任配置文件片段和报告模板，可用于广播、数字相机、AI内容生成等特定工作流程；第3部分引入了媒体资产水印技术。
瑞士联邦理工学院教授Touradj Ebrahimi表示，JPEG Trust的目标不是为了给内容贴上“可信”或“不可信”的标签，而是为用户提供自行判断的工具。他指出，欺诈者不会主动标注其内容为AI生成，因此标准侧重于让用户根据自身上下文和需求决定是否信任。Ebrahimi强调，信任是高度依赖上下文的，同一用户在不同情境下可能做出不同判断。
目前，识别和打击深度伪造的努力仍较为分散，各公司推广自己的解决方案。IEC和ISO认识到需要公认的行业标准。除了JPEG Trust，还有多项标准正在开发中，包括源文件配置框架（Originator Profile）、AI训练数据使用限制的标准化词汇（Vocabulary for expressing content preferences for AI），以及多媒体内容验证框架H.MMAUTH。这些标准共同构成了AI与多媒体真实性及标准倡议的一部分，旨在为用户和公司提供全面工具来验证内容真实性。
H.MMAUTH框架基于数字签名技术，内容创作者使用私钥对数据流签名，接收方通过公钥验证。公钥需通过可信第三方独立获取，确保验证的可靠性。同时，标准化词汇允许内容所有者以机器可读方式表达对AI训练数据使用的限制或许可，促进互操作性。
Ebrahimi指出，2018年IEC和ISO的JPEG委员会首次注意到JPEG文件被用于传播虚假图像的问题，如今AI生成图像泛滥，标准必须扩展以帮助用户验证接收到的图像。他预测，最终哪一种标准能成为主流仍是未知数，但行业共识是迫切需要通用标准。