AI搭載アプリケーションのプレトレーニングモデルハブにおけるセキュリティリスクの解明

研究者らは、Hugging Faceなどのプラットフォーム上のAIアプリを初めて体系的にセキュリティ分析し、5つの脅威カテゴリと10の攻撃ベクトルを特定しました。97万以上の公開AIアプリを分析した結果、数千が認証情報を漏洩し、数百がコード実行の脆弱性を持ち、数十にバックドアが埋め込まれていることが判明しました。