Hugging Faceは7月16日、未知の自律型AIエージェントによるセキュリティインシデントを開示しました。この攻撃により、生産プラットフォームと複数のサービスの認証情報が漏洩しました。パートナーや顧客データへの影響は現時点では不明です。
Hugging Faceは機械学習コミュニティ向けのオープンソースリポジトリで、モデルやデータセット、アプリケーションを提供しています。攻撃はデータ処理パイプラインから始まりました。攻撃者が仕込んだデータセットが、リモートコードデータセットローダーとテンプレートインジェクションという2つのコード実行パスを悪用し、処理ワーカー上で悪意あるコードを実行。権限をノードレベルに昇格させ、生産パイプラインへの侵入、ネットワーク横断、クラウドおよびクラスター認証情報の窃取に成功しました。
特筆すべきは、従来のサイバー犯罪者ではなく、未知のAIエージェントが攻撃を実行した点です。Hugging Faceによれば、このエージェントは短期間のサンドボックス群の中で何千もの個別アクションを実行し、パブリックサービス上で自己移行するコマンド＆コントロール（C2）を使用していました。攻撃に関連する17,000以上のイベントが記録され、「業界が予測していた『エージェント型攻撃者』のシナリオに合致する」と述べています。
現在のところ、公開モデルやユーザーフェイシングモデル、Spaces、ソフトウェアサプライチェーンへの改ざんは確認されていません。Hugging Faceは初期アクセスを許した根本的脆弱性を修正し、影響を受けたクラスターから攻撃者の痕跡を完全に除去、侵害されたノードを再構築し、秘密鍵の失効とローテーションを実施しました。さらに、クラスター全体に追加のガードレールと厳格なアクセス制御を導入しました。
このインシデントの際立った点は「AI対AI」の構図です。AIエージェントが攻撃を仕掛け、それを検知したのもAIでした。Hugging FaceのLLMツールがセキュリティイベントをフラグし、攻撃ログを分析、タイムラインの再構築、侵害指標の抽出、漏洩・窃取された認証情報のマッピングを数時間で完了しました。通常は数日かかる作業です。
Hugging Faceは「自律型AIによる攻撃ツールはもはや理論上のものではない。広範囲で忍耐強いマルチステージキャンペーンのコストを下げ、機械の速度で動作する。オンラインプラットフォームの防御は、データとモデル表面を第一級の攻撃表面として扱い、防御にもAIを使用してペースを維持することが必要だ」と警告しています。
ユーザーはアクセストークンを直ちにローテーションし、アカウントに異常なアクティビティがないか注意深く監視してください。影響を受けたと思われる場合は、[email protected]までご連絡ください。今後、AIベースの攻撃と防御の進化が加速すると予想されます。