AIが民主主義を損なうのを防ぐにはガバナンスが必要だが、それは「歯」を持っていなければならない

国連は7月6日から7日までジュネーブで「AIガバナンスに関するグローバル対話」を開催します。この会議は、表現の自由や情報アクセス権といった権利をAIガバナンスの中心に据えることを目的としています。生成AIシステムは日々私たちが接する情報を仲介、フィルタリング、生成しており、そのガバナンスの在り方は人々が何を言い、求め、知ることができるかに直接影響します。

しかし、著者はこの会議の実効性に懐疑的です。ユネスコは以前、AIを社会スコアリングや大量監視に使用することを禁止し、加盟国にAIライフサイクル全体での権利尊重を求める勧告を採択しましたが、実際には守られていません。米国と中国はともに監視や社会スコアリングに反対していると主張しますが、実際には政府は最も機密性の高い個人情報をAIで利用し、民間企業と協力して移民の広範な拘束を含む監視体制を構築しています。中国では政府による社会スコアリング、米国では民間企業による同様の仕組みが存在します。著者は皮肉を込めて「任務完了！」と述べています。

著者は、これらの会合は重要であり、権利保護とAIの悪用防止への圧力を高め続けるべきだと認めつつも、勧告が実際に守られるのは、主要国が法律で義務付け、米国などの圧力に屈しない場合に限られると指摘します。AIベンダーは世界市場を必要としていますが、世界市場は特定のベンダーに依存しているわけではありません。したがって、各国政府は強い交渉力を持っており、それを行使すべきです。例えば、EUや日本などの主要経済国がAIシステムに透明性と監査可能性を要求すれば、ベンダーは巨大市場を失うことを避けるため従わざるを得ません。

さらに、AIシステムは本質的にブラックボックスであり、政府や有力な私人が不透明に出力を調整し、自らの議題に沿わせる危険性があります。これを防ぐためには、完全な透明性と監査可能性が要件となるべきです。AIが誤った手に渡れば、権威主義的な権力の集中を強化する恐れがあります。理想的には、国連が透明性ルールに従わない国に制裁を課すべきですが、国連の歴史は効果的な制裁ができた例に乏しいです。

問題の一部は、「AIは未来の情報技術である」というフレーミングにあります。この見方に基づけば、国はAIを完全に取り入れなければ遅れると考える傾向があります。しかし現実はより複雑です。AIはソフトウェア工学などの産業に変化をもたらしますが、国全体を変革するようなものではありません。AIベンダーは世界市場を必要としており、その逆ではありません。各国政府は自らの力を理解し、それを活用すべきです。

著者は、AIガバナンスにおいては、政府の影響力だけでなく、富裕な私人の影響力にも注意を払う必要があると主張します。AIはブラックボックスであるため、権力を持つ主体は誰でも出力を隠蔽的に操作して自らの利益を図ることができます。したがって、包括的な透明性と監査可能性の要件を確立しなければなりません。同時に、国連などの国際機関はルールに違反する国に対して断固たる制裁を科すべきですが、歴史的に国連の執行力は限られています。結論として、AIガバナンスは自発的なガイドラインに頼るのではなく、強力な法的枠組みと執行力を必要とします。