欧州の人々は、AIが日常生活にどれほど浸透しているかをまもなく知ることになる

日曜日から、欧州連合（EU）の市民は、AIシステムと対話している場合や、AI技術によって生成・改変されたコンテンツを閲覧している場合に、その旨を知らされなければならなくなる。この新たな透明性義務は、EUの人工知能法の一部として8月2日に施行される。この法律は、欺瞞や操作を減らし、欧州で信頼できるAIを育成するという幅広い目標の中で、人々が情報に基づいた選択を行えるようにすることを意図している。

「提供者が透明性義務に本当に適合しているなら、AIがどれだけ使われているかが非常に目に見えるようになるでしょう」と、Stibbeのテクノロジー弁護士であるFrederiek Fernhout氏はWIREDに語る。「特にマーケティングの分野ではそうです。」ディープフェイクを使用した広告や企業のソーシャルメディア投稿には、AI生成であることを示すラベルが付けられる。苦情やその他の問題を処理するチャットボットやホットラインは、AIベースであることを明確に示さなければならない。機械学習を使って通話者の感情を監視し、フラストレーションを検知するコールセンターも、通話開始時にその旨を宣言する必要がある。

企業間であっても、予約のスケジュール管理、通信処理、契約交渉など、テクノロジーを商業的に利用する場合はすべて申告しなければならない。違反した場合、企業は最大1500万ユーロ（約1700万ドル）または世界年間売上高の3%のいずれか高い方の罰金を科される。

モデル開発企業も新法の対象となり、欧州委員会が最近設立したAIオフィスの監視下に置かれる。これには、OpenAI、Anthropic、Google DeepMindといった明らかな例以外の企業も含まれる。Stibbeのテクノロジー・データ弁護士であるThibau Duquin氏は、AI搭載のレコメンデーションを利用するSpotifyや、PhotoshopのAI編集機能を提供するAdobeなどの企業を挙げた。「探し始めると、どこにでもあります。そして今から、こうしたコンテンツはすべてラベル付けしなければなりません」とDuquin氏は言う。

この新法の適用範囲は広く、情報過多につながる可能性があると批判する声もある。「過剰なラベル表示は、終わりのない通知で「バナーブラインドネス」（広告を見落とす現象）を引き起こす可能性があります」と、コンピュータ・コミュニケーション産業協会のAI政策責任者であるBoniface de Champris氏は12月に警告した。「単純なスペルチェック付きメールからフィルター付き写真に至るまで、すべてにラベルを付けなければならないなら、AIコンテンツのラベル表示は意味を失うでしょう。」

この新しい法律は、2018年に施行されたEUのプライバシー法である一般データ保護規則（GDPR）を彷彿とさせる。GDPRは、企業が個人情報をどのように利用しているかを理解し、管理するための新しい権利を消費者に与え、人々のウェブ体験を変えた。同法は、どこにでもあるクッキー同意ポップアップを導入し、多くのウェブユーザーに「クッキー疲れ」を残し、企業はコンプライアンスに追われた。

こうした技術的規制の採用と執行の難しさも共鳴している、とFernhout氏は言う。「それでも、多くの用語が明確でなく、当局からの具体的なガイダンスが必要です。同じことがここでも起こると思います」と彼女は言う。「また、非常に技術的であり、これらの要件を基盤となるシステムに組み込む必要もあるため、複雑になっています。」

EUは、AIモデル提供者が合成オーディオ、画像、ビデオ、テキストを機械可読形式でラベル付けし、AI生成物として検出できるようにするための移行期間を12月まで認めている。これは、実装上の技術的課題を明確に認識したものだ。この法律の他のコンプライアンス期限も、欧州AIオフィスが主要なコンプライアンスガイドラインの作成に予想以上に時間がかかったため、延期されている。

EUの27加盟国も監督体制の構築段階が異なっており、執行は「私たちが考えているほど初日から即時的で一様ではないかもしれません」と、Norton Rose Fulbrightのデータ・AI規制弁護士であるRosie Nance氏はWIREDに語る。「すぐに一貫した執行が見られるとは限りません」と彼女は慎重に付け加えた。

それでも、この規制の広範な影響は最終的に企業にとって「ゲームチェンジャー」になるとDuquin氏は言う。「企業はラベル付けに満足するのでしょうか、それともAIベースではないシステムに戻るのでしょうか？手作業に戻るのでしょうか、それともAIをどれだけ使っているかを透明にし、あらゆることにAIを使い続けて開示するリスクを負うのでしょうか？」