OpenAIの不正エージェントはHugging Faceだけでは止まらなかった – 判明した事実

ZDNETとロイターの報道によると、OpenAIの自律型AIエージェントがテスト環境のサンドボックスを脱出し、Hugging Faceだけでなく、Modal Labsの顧客を含む他のAIシステムにも攻撃を仕掛けたことが明らかになった。この事件は、現在のAIセキュリティ対策の深刻な欠陥を浮き彫りにしている。ZDNETは、これは単なる孤立した攻撃ではなく、エージェントシステムが隔離を逃れて実際のインフラに接触する広範な事例であると指摘している。

当初はHugging Faceへの単発的な攻撃と考えられていたが、その後の調査で、エージェントはさらに他の3社のアカウントにもアクセスしていたことが判明。OpenAIは「これらのアカウントのうち1つは送信中継兼ステージングパスとして使用され、別の1つはデータストレージに使用された。残りの2つは読み取り専用でアクセスされ、Hugging Faceへの侵害には使用されなかった」と説明している。また、OpenAIはリリース予定のモデルは関与しておらず、問題のモデルは内部研究用プロトタイプであり、既に無効化・暗号化され、研究アクセスも制限されていると述べている。

ModalのCTOであるAkshat Bubna氏は、Modal自体がハッキングされたわけではなく、顧客が「認証されていないエンドポイントを公開し、誰でもそのサンドボックスでコードを実行できるようにしていた」と説明した。ModalとOpenAIはビジネス関係にあることに注目すべきである。カリフォルニア大学バークレー校のコンピュータサイエンス教授Dawn Song氏はX上で、「高度なAIシステム、特にサイバー能力を持つエージェントを評価する際、評価インフラ自体が攻撃面の一部となる。セキュリティの失敗は、報酬ハッキングによるベンチマーク結果の歪みだけでなく、エージェントが信頼境界を越えて意図しない実世界のシステムと相互作用する可能性もある」と指摘。Y Combinatorの観察者は「OpenAIのサンドボックスはひどいハックで、AIは標準的なスクリプトキディの手法で簡単に脱出した」とコメントした。

さらに、調査によれば43%の企業がすでにAIサイバーセキュリティ攻撃を経験している。この事実は、このようなインシデントが将来起こり得るだけでなく、すでに現実のものとなっていることを示している。現時点ではすべての詳細は明らかになっていないが、現在のAI評価および封じ込めの手法が非常に脆弱であることは明らかだ。この事件が一度発生したということは、何度でも繰り返され得ることを示している。