AI画像詐欺は来年400億ドルの損失に？国際標準は役立つか

AIによって生成された画像が氾濫する中、実際の写真とディープフェイクを見分けることがますます困難になっています。この問題はニュース、ソーシャルメディア、さらには犯罪現場の証拠など、社会のさまざまな側面に影響を及ぼしています。デロイト金融サービスセンターの推計によると、米国では生成AIによる詐欺損失が2023年の123億ドルから2027年には400億ドルに達する可能性があります。

この課題に対処するため、国際標準化機関（ISO）と国際電気標準会議（IEC）はJPEG Trust標準を推進しています。この標準は昨年最初に発表され、JPEGファイルに信頼性指標をメタデータとして埋め込む枠組みを提供します。最近、この標準に2つの追加部分が導入されました。JPEG Trust第2部では、放送、デジタルカメラ、AIコンテンツ生成などの特定のワークフローで使用できる信頼プロファイルスニペットと報告テンプレートが紹介されています。第3部ではメディアアセットウォーターマーキングが導入されています。

スイス連邦工科大学のTouradj Ebrahimi教授は、JPEG Trustの目的はコンテンツに「信頼できる」または「信頼できない」というラベルを付けることではなく、ユーザーが自分で判断するためのツールを提供することだと述べています。詐欺師は自らコンテンツをAI生成とラベル付けしないため、標準はユーザーが自身のコンテキストとニーズに基づいて信頼を決定できるようにすることに重点を置いています。Ebrahimi教授は、信頼は状況に大きく依存し、同じユーザーでも異なる状況では異なる判断を下す可能性があると強調しています。

現在、ディープフェイクやAI詐欺に対抗する取り組みは散在しており、各企業が独自のソリューションを推進しています。IECとISOは、広く受け入れられる業界標準が必要であると認識しています。JPEG Trustに加えて、オリジネータープロファイル（Originator Profile）、AIトレーニングデータの使用制限を伝えるための標準化された語彙（Vocabulary for expressing content preferences for AI）、マルチメディアコンテンツの真正性を検証するフレームワークH.MMAUTHなど、複数の標準が開発中です。これらの標準は、AIとマルチメディアの真正性と標準に関するイニシアチブの一部であり、ユーザーと企業がコンテンツの真正性を検証するための包括的なツールを提供することを目指しています。

H.MMAUTHフレームワークはデジタル署名技術に基づいており、コンテンツ作成者は秘密鍵でデータストリームに署名し、受信者は対応する公開鍵で検証します。公開鍵は信頼できる第三者から独立して取得され、検証の信頼性を確保します。また、標準化された語彙により、コンテンツ所有者はAIトレーニングデータの使用に関する制限や許可を機械可読な形式で表現でき、相互運用性が向上します。

Ebrahimi教授は、2018年にIECとISOのJPEG委員会が初めてJPEGファイルが偽画像の拡散に利用されている問題に取り組んだと指摘しています。現在、AI生成画像が蔓延する中、標準を拡張してユーザーが受信した画像の真正性を検証できるようにすることが課題です。彼は、最終的にどの標準が主流になるかは未知数ですが、業界全体で共通の標準が緊急に必要とされていると述べています。