HuggingFaceの侵害はAIエージェントの仕業とされ、AIが防御も行う——ユーザーが次に取るべき行動

Hugging Faceは最近、未知の自律型AIエージェント（agentic AI）によると思われるセキュリティインシデントを開示し、プロダクションプラットフォームと認証情報が露出しました。パートナーや顧客データが影響を受けたかどうかは現時点では不明です。

Hugging Faceは、「機械学習コミュニティがモデル、データセット、アプリケーションで協力する場所」を自称するオープンソースのリポジトリおよびコミュニティプラットフォームです。このプラットフォームは、データセット、アプリケーション、モデル、話題のAI作品、コラボレーションの機会を提供し、AIや大規模言語モデル（LLM）に関心のある人々にとって多様なリソースです。

7月16日に公開されたセキュリティアドバイザリで、Hugging Faceは、内部データセットの限られたセットと、プラットフォームのサービスで使用される複数の認証情報への不正アクセスを検出したと述べました。攻撃はHugging Faceのデータ処理パイプラインから始まりました。攻撃者が展開したデータセットは、2つのコード実行パス（リモートコードデータセットローダーとデータセット構成内のテンプレートインジェクション）を悪用し、処理ワーカー上で悪意のあるコードを実行しました。これにより、攻撃者は権限をノードレベルに昇格させ、プロダクションパイプラインに侵入し、ネットワークを横断し、クラウドおよびクラスターの認証情報を盗むことができました。

従来のサイバー犯罪者の仕業と考えることもできますが、Hugging Faceは、実際には未知の自律型AIエージェントが、パブリックサービスの短命なサンドボックスの群れ全体で「数千もの個別のアクション」を実行し、自己移行型のコマンド＆コントロールを持っていたと述べています。この自動攻撃に関連して17,000以上のイベントが記録されました。Hugging Faceは「これは業界が予測してきた『エージェント型攻撃者』シナリオに一致する」と付け加えました。現時点では、公開およびユーザー向けモデル、Spaces、ソフトウェアサプライチェーンへの改ざんの証拠は見つかっていません。

データ漏洩やセキュリティインシデントは今や非常に一般的ですが、Hugging Faceのインシデントが際立っているのは、AI対AIの組み合わせです。自律型AIエージェントが攻撃を開始したとされていますが、同じくAIがインシデントを「大部分検出」したとHugging Faceは述べています。Hugging Face自身のLLMツールがセキュリティイベントをフラグ付けし、攻撃ログを分析し、タイムラインの再構築、侵害指標の特定、露出・盗難された認証情報のマッピングを数時間で行いました。これは「通常は数日かかる」作業です。

同組織は「自律的でAI駆動の攻撃ツールはもはや理論上のものではない。広範で忍耐強く、多段階のキャンペーンを実行するコストを下げ、機械の速度で動作する。オンラインプラットフォームを防御するということは、データとモデル表面を第一級の攻撃表面として扱い、防御にもAIを使用してペースを保つことを意味する」と指摘しました。今後数ヶ月から数年にわたり、AIベースの攻撃と防御の両方が進化していくでしょう。

一方、Hugging Faceは初期アクセスを可能にした根本的な脆弱性を修正し、影響を受けたクラスターから攻撃者の痕跡をすべて除去し、侵害されたノードを再構築し、シークレットを無効化・ローテーションし、追加のガードレールとより厳格な准入制御をクラスター全体に展開しました。

Hugging Faceは、パートナーや顧客データが影響を受けたかどうかを評価中であり、影響を受けた当事者に連絡します。どのデータセット、パートナー、ユーザーが影響を受けたかが明確になるまで、予防措置としてユーザーはアクセストークンをローテーションし、アカウントに異常、不明、不審な活動がないか注意深く監視することを推奨します。ユーザーがこの侵害の影響を受けたと思われる場合は、[email protected]に直接連絡する必要があります。