AI悪用防止の課題：管轄権、オープンモデル、プライバシー

人工知能の悪用防止は極めて重要です。悪用とは、誰かが意図的に害を生み出そうとすることを意味し、AIはそのための新たな道具です。理論上は、既存の法律が害を生み出す行為に適用されるべきですが、現実には多くの課題があります。

**管轄権の限界** 既存の法律が機能しない第一の点は管轄権です。世界には無法国家、法執行能力のない国家、侵略国家が存在し、これらは有害な活動を見過ごしたり、法を執行できなかったり、積極的に害を生み出したりします。既存の法律では、そうした管轄権に隠れた行為者に確実に届きません。この隙間を埋めるための努力は続いていますが、進展は遅く、隙間が再び開くこともあります。長期的な取り組みであるため、短期間での解決は期待できず、緩和すべき現実として受け入れる必要があります。

悪意ある行為の元凶を直接標的にできない場合、その道具を奪うことを試みるべきです。AI企業のこれまでの努力は相当なものですが、その努力は2つの背景ストーリーによって妨げられています：オープンモデルとプライバシーです。悪用の道具を奪うには、まず悪用や意図を検出する必要がありますが、オープンモデルとプライバシーはその両方を困難にします。

**オープンモデルの課題** オープンモデルは誰でも自由に実行できる点が特徴です。クローズドモデルは管理サービスとして提供されるため、監視や拒否が可能な管理層が存在します。オープンモデルは一度公開されると監視能力が限られ、制御手段も主に十分な計算リソースへのアクセスを拒否することに限定されます。

最大の計算リソースはクラウドプロバイダーにありますが、プライベートデータセンター、コロケーション施設、主権国家インフラ、そして分散型コンシューマーハードウェアなど、クラウド以外にも豊富な計算リソースが存在します。クラウドリソースであっても、管理サービスではなく計算リソースを提供する性質上、最も効果的な監視手段が曖昧になります。クラウドプロバイダーは設計上、顧客に多くのプライバシーを提供します。

オープンモデルには正当な理由がありますが、悪用防止の観点からは課題です。幸いなことに、オープンモデルはクローズドモデルよりも性能が低いため、悪意あるユーザーが利用できる能力が制限されます。いくつかの側面では敵対的な性質があるため、クローズドモデルの優位性は防御側にもメリットをもたらします。これは特にサイバーセキュリティーにおいて顕著です。

オープンモデルの性能が今後もクローズドモデルに劣るままでいるでしょうか？協力的な管轄権間で規制を導入すればそれを確保できますが、非協力的な管轄権がより強力なモデルを作成する能力を持っている場合、その制御を失う可能性があります。中国はその能力を持ち、独立した判断を行う可能性が最も高い管轄権です。

**プライバシーのジレンマ** 2つ目の背景ストーリーはプライバシーです。インターネット上の匿名状態はコストを伴います。プライバシー擁護派はこの状態を維持しようとします。私は、政策としての匿名性のコストは高すぎると考えています。これはAIに固有の問題ではありませんが、関連しています。

私たちはセキュリティチームの手を縛り、理論上のプライバシーしか提供していません。プライバシーが最も重要な全体主義国家では、現地の現実によってプライバシーが損なわれています。プライバシー擁護派はそこで影響力を持ちません。彼らは最も必要とされない場所で政治的勝利を収め、最も必要とされる場所で敗北しています。難しい選択ですが、私は正しい選択をしていないと思います。

実用的であるべきなのに、理想的すぎます。場合によっては、プライバシー対策が悪意あるデータの蓄積を加速させることがあります。技術スタックの最下層が隠蔽されているために対策が取れない場合、プライバシーを達成できず危害も防げません。正式なデータ共有が禁止されると、非公式なシステムが代わりとなり、予測可能な結果として有害な漏洩が発生します。

もしサービスプロバイダーが常に誰がサービスを利用しているかを把握できていれば、過去に悪意ある行動が検出されたユーザーのアクセスを拒否できます。しかし、インターネットはあまりにも多くの匿名性を提供しています。プロバイダーはアカウントを閉鎖できますが、実際の身元に結びついていない場合、新しいアカウントを作成できます。現在のAI企業の標準はこれに関して緩すぎます。攻撃者がアクセスを維持するコストを高くすることは可能です。

**結論** 管轄権、オープンモデル、プライバシーは私たちが対応しなければならない世界の特徴ですが、同時に影響を与えられる政策上の選択でもあります。厄介な現実は、これらの3つの力が互いに増幅し合うことです。オープンモデルは法律が届かない管轄権に強力なツールを置き、匿名性は法律が適用される場合でも悪意ある行為者の検出やアクセス拒否を困難にします。これらを個別に扱うと問題を過小評価することになります。

前進するためには、難しいトレードオフを受け入れる必要があります。意味のある本人確認はプライバシーの譲歩と感じられるでしょう——実際にそうです。オープンモデルのリリースに対する規制は、正当な理由で開放性を求める研究者や開発者を苛立たせるでしょう——開放の利点は確かに存在するからです。管轄権間の調整は遅く不完全です。これらは行動を避ける理由ではなく、あらゆる対策が何を達成でき、何を達成できないかについて正直になる理由です。

受け入れられないのは現在のデフォルトです：難しい選択を先送りし、匿名性を無条件の善、開放アクセスをコストゼロと扱うことです。害を生み出すための道具は向上しています。それらの統治方法を形作るための窓は開いていますが、永遠に続くわけではありません。