AIと責任

今月初め、ドイツの裁判所はGoogleのAI検索サマリーについて、Googleに責任があるとの判決を下した。裁判所は、「ユーザーは自分で確認できる」「AIが生成した情報は盲目的に信頼すべきでないことは一般的に知られている」といったGoogleの弁護を退け、AIサマリーは同社のビジネス活動の反映であり、「何よりもGoogleの事業活動の表現である」と判断した。

この判決は、インターネット出版をめぐる数十年にわたる戦いの最新の局面である。歴史的に、情報配信者には運送人と出版者の2種類があった。電話会社は運送人であり、犯罪の話であってもユーザーの発言をそのまま伝達するが、その内容について責任を負わない。一方、新聞は出版者であり、掲載する内容を自ら決定し、もし名誉毀損や違法な内容があれば責任を負う。

インターネット企業は長い間、この区別を都合よく使い分けてきた。都合が良ければ運送人を自称し、有利であれば出版者を名乗る。1996年通信品位法第230条は、インタラクティブ・コンピュータ・サービスの提供者を他者の発言に対する責任から保護し、この両面作戦を制度化した。

しかし、ソーシャルメディアのアルゴリズムによるキュレーションやAIサマリーの登場により、その境界は曖昧になっている。GoogleのAI概要は従来の検索とは異なり、他者の言葉を引用・転載するだけでなく、新聞記事やオリジナルエッセイのように編集上の裁量を行使する。したがって、運送人ではなく出版者に近い。

エア・カナダの事例も教訓を与える。同社のAIチャットボットが割引を約束したが、後に撤回。同社はチャットボットは「独立した法的実体」であると抗弁したが、裁判所は航空会社がチャットボットの発言に対して責任を負うと判断した。これは、企業が雇用するAIエージェントに対して注意義務を負うという先例となる。

VisaとOpenAIは最近、個人向けAIエージェントを共同開発すると発表した。これは代理購入などを目的としている。AIが望まない購入をした場合、誰が責任を取るのか？Visaが責任を取らないなら、誰がこのシステムを信頼するだろうか？適切な責任配分がこのような仕組みの成功には不可欠である。

ドイツの判決が維持されれば、GoogleのAI概要機能に壊滅的な打撃となる可能性がある。今年初めのテストでは、約10％のエラー率が判明。年間5兆回以上の検索があるとすると、毎秒1万6000件の誤ったサマリーが生成されることになる。それらの誤りのほとんどは無害だが、中には名誉毀損など法的責任を引き起こすものもある。例えば、GoogleのAIサマリーはカナダのフィドル奏者アシュリー・マキサックを誤って性犯罪者と認定し、彼女はオンタリオ州で訴訟を起こしている。

責任の問題は、多くのAIエージェントのユースケースを商業的に成り立たなくさせる可能性がある。企業がAI弁護士、医師、インフルエンサーの発言に責任を負うなら、それらを利益を上げて運営できなくなるかもしれない。しかし著者は、本質的に信頼できないAIシステムを法律が容認する必要はないと主張する。人間であれAIであれ、自社のエージェントの発言に責任を持たない企業は、ユーザーの時間やお金を得るに値しない。