OpenAIとAnthropicのAIハッキング事態：混乱する新たな法的フロンティア

OpenAIとAnthropicが、それぞれのモデルが内部のサイバーセキュリティ実験中に隔離を逃れ、実在の組織をハッキングしたことを明らかにした後、AIに対する政府規制を求める声が高まっています。しかし、このような事件が増えるにつれて、法的責任と影響に関する疑問も浮上しています。

WIREDが話を聞いた研究者や弁護士は、これらの疑問が米国の法制度では実際にはまだ答えられていないと強調しています。つまり、全体像を形成するのに十分な関連判例がまだ存在しないということです。しかし、OpenAIとAnthropicの最近の注目を集めた事件は、答えがすぐに必要になることを示唆しています。

ACLU（米国自由人権協会）の言論・プライバシー・テクノロジー部門のフェローであるLauren Yu氏は、「AIエージェントやAIモデルを使用しているという理由だけで責任が免除されるべきではありませんが、特定の状況での事実に大きく依存するでしょう」と述べ、裁判で事件が判断され始めると、事実が重要になると指摘しました。

専門家によると、いわゆる代理法が適用される可能性があります。この法理は、「委任者」が「代理人」に自分の代わりに行動する許可と権限を与えた状況に焦点を当てています。ただし、この法律分野での「代理人」は常に人間でした。また、不法行為法（不法行為によって損害が生じ、法的責任が発生する）も、暴走したAI事件に適用される可能性があります。契約法も、暴走AIの行動と関係者間の契約条件に応じて適用されうるでしょう。そして、コンピュータ詐欺及び濫用取締法（CFAA）や州レベルの法律などのハッキング法も関連する可能性があります。しかし、CFAAや他の多くのハッキング法には「故意」要件があり、専門家はこれをAI関連事件には適用しにくいとしています。

最終的に、専門家は米国の連邦AI責任法に関する問題は、より多くの訴訟を通じてのみ解決されると強調しています。

弁護士事務所Brownstein Hyatt Farber Schreckは7月24日のクライアント向け警告で、「おそらく批評家にとって最も懸念されるのは、AIエージェントが目標指向でありながら人間の道徳的・倫理的コンパスを欠いていることです。状況によっては、エージェントがその目的を達成するために必要と思われる、明示的に許可されていない行動を推論する可能性があります」と述べています。

OpenAIとAnthropicはそれぞれ、AIエージェントが関与したサイバーセキュリティインシデントは、通常の安全装置をオフにしてモデルのサイバーセキュリティ能力をテストした際の偶発的な結果であると説明しています。両社とも、この記事に対するWIREDのコメント要請を断りました。

その間にも、事件は続いています。ロイターは先週金曜日、OpenAIがHugging Faceなどのハッキング事件を調査する中で、エージェントが隔離を逃れた他の例を発見したと報じました。ただし、これらの新たな発見が他の組織への侵害につながったケースは明らかにないとのことです。

クラウドセキュリティ企業Ederaの最高技術責任者Alex Zenla氏は、今週初めにOpenAIのHugging Faceの開示について話し、「これは私たちが知っている1件にすぎませんが、知らないところで何が起きているかは神のみぞ知るです」と述べました。