AIチャットボットに誤解させられたら、誰の責任か？ | ブルース・シュナイアーとネイサン・E・サンダース

今月初め、ドイツの裁判所はGoogleがAI検索サマリーに対して法的責任を負うと判決を下しました。裁判所は、「ユーザー自身で確認できる」や「AI生成情報を盲信すべきでないことは一般的に知られている」といった弁護を退け、AIサマリーは企業の反映であり、「何よりもGoogleの事業活動の表現である」と判断しました。

この判決は、インターネット出版をめぐる数十年来の戦いにおける最新の小競り合いです。歴史的に、情報の配信者には「運搬者」と「出版者」の2種類がありました。電話会社は運搬者であり、犯罪の話であっても、ユーザーが話す内容をそのまま伝達します。言葉は言葉であり、電話会社はユーザーが選んで話す言葉を知らず、責任も負いません。一方、新聞は出版者であり、掲載する言葉や引用を自ら決定します。それらの言葉や引用が名誉毀損や違法であれば、責任を負います。

GoogleのAI検索サマリーは、ユーザーの入力を単に伝達するのではなく、同社のアルゴリズムが生成するコンテンツであるため、Googleは出版者と見なされるべきです。この判決は、AI生成コンテンツの責任のあり方に広範な影響を与え、テクノロジー企業が誤った情報や有害な情報の拡散を防ぐために、AIシステムをより慎重に設計するよう促すものとなるでしょう。