AI News HubLIVE
站内改写2 分钟阅读

Preempt AI v2:AI强大,但也需确保安全

Preempt AI v2 推出,为AI应用提供安全标准,利用ML技术防御提示注入、越狱和数据泄露。支持多种语言,延迟低于10毫秒,准确率达99.65%。

来源Hacker News AI作者: karthikravva

Preempt AI v2 是一款专为人工智能应用设计的安全标准产品,旨在应对日益增长的AI安全威胁。该产品采用先进的机器学习技术,能够高效检测并阻止提示注入(prompt injection)、越狱(jailbreak)攻击以及数据泄露等风险。其核心检测引擎基于超过58.9万个真实攻击样本进行训练,实现了高达99.65%的检测准确率,同时支持12种以上语言(包括西班牙语、法语、中文、日语、韩语、阿拉伯语等)和41种以上攻击类型,检测延迟低于10毫秒,确保对用户交互的影响降到最低。

在功能方面,Preempt AI v2 提供了多项企业级保护措施。提示注入防御功能可以识别并阻断试图覆盖AI指令或提取敏感信息的攻击;越狱预防功能则能够阻止绕过AI安全措施和内容策略的尝试。PII保护功能是该产品的一大亮点,它能够自动检测并加密敏感数据(如社会安全号码、信用卡号、电子邮件地址等),在数据到达AI之前进行加密,并在AI响应后还原,从而在确保数据隐私的同时不影响AI的正常功能。产品还支持多语言检测和基于OCR的图像保护,能够识别隐藏在图片中的提示注入攻击,为视觉输入提供额外防护。

Preempt AI v2 采用模型无关的设计,可与任何AI提供商无缝集成。部署方式灵活多样,包括浏览器扩展(支持Chrome和Edge)、API集成以及Web应用程序。用户只需添加浏览器扩展即可保护自己在任意AI平台上的使用体验,企业也可以通过API将安全层嵌入自有的AI流水线。产品还提供了实时监控仪表板,显示已扫描的提示数量、已阻止的攻击数量、已保护的PII字段数量以及已阻止的越狱尝试等关键指标,帮助用户全面了解安全态势。

Preempt AI v2 的发布为AI应用的安全防护树立了新的标准,使得组织可以在享受AI强大能力的同时,确保数据和系统的安全。无论是开发者、安全团队还是企业用户,都可以通过多种集成方式轻松部署和定制安全策略,有效抵御不断演变的AI攻击手段。