揭秘AI應用在預訓練模型中心的安全風險

近年來，隨着人工智能技術的快速發展，預訓練模型中心如Hugging Face等平台已成為AI應用（AI-Apps）部署的主要陣地。這些平台通過提供在線推理和微調服務，大大降低了AI的使用門檻，使得開發者能夠快速構建和共享AI應用。然而，一項由多所大學研究人員共同完成的最新研究首次對這些平台上的AI應用進行了系統性安全分析，揭示了其中潛伏的嚴重安全風險。

該研究團隊將AI應用的生命週期映射到OWASP等成熟的風險分類體系，識別出五大威脅類別和十種攻擊向量。這些威脅涵蓋從通用Web漏洞到高影響架構問題，包括訪問控制失效、不安全資源重用、輸入驗證不足和敏感數據泄露等關鍵安全缺陷。特別值得注意的是，研究人員還發現了三種新型架構漏洞，這些漏洞植根於平台設計本身，並且展示了傳統安全問題（如全局可讀日誌）如何在這個生態系統中被獨特放大。

為了評估實際影響，團隊開發了名為Insightor的自動化分析框架，並將其應用於超過97萬個公開的AI應用。結果令人震驚：數千個應用存在憑證泄露，數百個存在輸入注入漏洞，可被利用執行任意代碼，更有數十個應用被發現嵌有後門，表明這些漏洞已被積極利用。研究人員已負責任地向受影響的平台和開發者披露了所有發現。

該論文已被網絡與分佈式系統安全會議（CCS 2026）接收，為AI應用的安全防護提供了重要參考。專家建議，平台應加強應用隔離、輸入驗證和權限控制，開發者也要提高安全意識，避免在應用中硬編碼敏感信息。