揭秘AI应用在预训练模型中心的安全风险
研究人员首次对Hugging Face等平台上的AI应用进行了系统性安全分析，发现了五大威胁类别和十种攻击向量，包括访问控制失效、资源重用不安全、输入验证不足和敏感数据泄露。研究覆盖超过97万个AI应用，数千个泄露凭证，数百个存在输入注入漏洞，数十个含有后门。
近年来，随着人工智能技术的快速发展，预训练模型中心如Hugging Face等平台已成为AI应用（AI-Apps）部署的主要阵地。这些平台通过提供在线推理和微调服务，大大降低了AI的使用门槛，使得开发者能够快速构建和共享AI应用。然而，一项由多所大学研究人员共同完成的最新研究首次对这些平台上的AI应用进行了系统性安全分析，揭示了其中潜伏的严重安全风险。
该研究团队将AI应用的生命周期映射到OWASP等成熟的风险分类体系，识别出五大威胁类别和十种攻击向量。这些威胁涵盖从通用Web漏洞到高影响架构问题，包括访问控制失效、不安全资源重用、输入验证不足和敏感数据泄露等关键安全缺陷。特别值得注意的是，研究人员还发现了三种新型架构漏洞，这些漏洞植根于平台设计本身，并且展示了传统安全问题（如全局可读日志）如何在这个生态系统中被独特放大。
为了评估实际影响，团队开发了名为Insightor的自动化分析框架，并将其应用于超过97万个公开的AI应用。结果令人震惊：数千个应用存在凭证泄露，数百个存在输入注入漏洞，可被利用执行任意代码，更有数十个应用被发现嵌有后门，表明这些漏洞已被积极利用。研究人员已负责任地向受影响的平台和开发者披露了所有发现。
该论文已被网络与分布式系统安全会议（CCS 2026）接收，为AI应用的安全防护提供了重要参考。专家建议，平台应加强应用隔离、输入验证和权限控制，开发者也要提高安全意识，避免在应用中硬编码敏感信息。