AI搭載アプリケーションのプレトレーニングモデルハブにおけるセキュリティリスクの解明

近年、人工知能技術の普及に伴い、Hugging Faceなどのプレトレーニングモデルハブは、AIアプリ（AI-Apps）を展開する主要なプラットフォームとなっています。これらのプラットフォームはオンライン推論やファインチューニングサービスを提供し、AIの導入障壁を大幅に低減しています。しかし、複数の大学の研究者による最新の研究は、これらのプラットフォーム上のAIアプリに対する初の体系的なセキュリティ分析を実施し、深刻なセキュリティリスクを明らかにしました。

研究チームは、AIアプリのライフサイクルをOWASPなどの確立されたリスク分類にマッピングし、5つの脅威カテゴリと10の攻撃ベクトルを特定しました。これらは、一般的なWeb脆弱性から影響の大きいアーキテクチャ問題に及び、アクセス制御の破綻、安全でないリソース再利用、不十分な入力検証、機密データの漏洩などの重大なセキュリティ欠陥が含まれます。特に注目すべきは、プラットフォーム設計に固有の3つの新たなアーキテクチャ上の脆弱性を発見し、従来の問題（例：ワールドリーダブルなログ）がこのエコシステムで独自に増幅されることを実証した点です。

実際の影響を評価するため、研究チームはInsightorという分析フレームワークを開発し、97万以上の公開AIアプリに適用しました。結果、数千のアプリが認証情報を漏洩し、数百が任意コード実行を可能にする入力インジェクションの脆弱性を持ち、数十にバックドアが埋め込まれていることが判明しました。これらの脆弱性は積極的に悪用されている可能性があります。研究者らは、影響を受けるプラットフォームと開発者に責任を持って全ての調査結果を開示しました。

本論文はネットワーク・分散システムセキュリティ会議（CCS 2026）に採択されており、AIアプリのセキュリティ保護に重要な示唆を与えています。専門家は、プラットフォームがアプリの隔離、入力検証、権限制御を強化するとともに、開発者がアプリ内に機密情報をハードコードしないよう注意を促しています。