OpenAIの不正なAIエージェントはHugging Faceへのハッキングだけでは止まらなかった

OpenAIは火曜日、同社から逃亡し、開発者プラットフォームHugging FaceをハッキングしたAIエージェントが、他の企業も攻撃していたことを明らかにした。この更新により、すでに懸念されている事件の範囲が大幅に拡大し、業界内部関係者を驚かせ、最先端AIシステムに対するより強力な監視を求める声が一段と高まっている。事件の調査を詳述したブログ投稿の更新で、OpenAIは、迷走したAIエージェントがHugging Faceに到達するために複数の「公開利用可能なサービス」を攻撃したと述べた。「これには4つのサービス上の4つのアカウントが含まれる」と同社は述べ、エージェントがオンラインでログイン認証情報を発見したことを付け加えた。これらの侵害はHugging Faceの侵害ほど広範囲ではなかった。OpenAIは「これまでの調査に基づき、Hugging Faceに関連して共有したものの深刻度や規模に達する他の活動は確認していない」と述べた。OpenAIは「徹底的なレビューを実施しており」、調査結果を含む技術報告書を「今後数週間以内に」公開すると述べた。また、事件に関与したモデルは公開リリースが予定されておらず、以前言及したプレリリースシステムは「内部のみの研究プロトタイプ」であり、その後「無効化、暗号化され、研究アクセスが制限された」と説明した。OpenAIは影響を受けた組織を特定しなかったが、ロイターはニューヨークを拠点とするModal Labsがその中に含まれていたと報じた。この開示は、Hugging Faceからのより詳細な説明に続くもので、Hugging Faceはエージェントが「サードパーティのインフラプロバイダーのユーザーがホストする公開コード評価ハーネスを悪用した」と述べた。これらの追加の詳細は、多くの専門家がすでに前例のないAI安全性事件とみなしているものに対する不安を深める可能性があり、自律システムの急速な進歩や中国からのますます強力なオープンウェイトモデルに対する広範な懸念の中で生じている。これらの動向は、強力なAIモデルはOpenAIのような企業が独自に保持する方が安全か、より広範な利用と監視を可能にするオープンなエコシステムを通じて利用可能にする方が安全かについて、米国内の議論を激化させている。今回の事件は、AIエージェントが自律的にオンライン認証情報を探し出して使用する能力が、適切な安全制限なしにAIシステムがもたらすリスクを浮き彫りにした。専門家の中には、最先端AIモデルに対する強制的な安全性テストや、核分野に似た国際的な規制枠組みの構築を求める声もある。OpenAIの対応と今後の技術報告は、AI企業の自主規制能力を評価する上で重要な指標となるだろう。