Nvidia、Palantir、Hugging Face等33家机构联合成立开放安全AI联盟，抵御开源AI网络安全威胁

围绕开源软件和开源权重AI模型使用的激烈讨论，正在就什么构成合法的开放性、什么可能构成盗窃并造成新的网络安全漏洞产生分歧。

为直接应对这些行业范围内的担忧，33家合作伙伴于周一宣布成立新的开放安全AI联盟（Open Secure AI Alliance），并阐述了这一新机构将如何开发技术和工具，通过快速识别和修补漏洞来保护软件安全。

开放安全AI联盟的首批合作伙伴包括Nvidia、Adobe、Cadence、Capital One、Cisco、Cloudera、Cloudflare、Cognition、CrowdStrike、Databricks、Dell Technologies、DoorDash、Elastic、HPE、Hugging Face、IBM、LangChain、Linux基金会、Microsoft、NetApp、Nous Research、OpenClaw、Palantir、Palo Alto Networks、Salesforce、ServiceNow、Snowflake、Synopsys、Thinking Machines Lab、TrendAI、Red Hat、Reflection AI和SpaceXAI。

这一组合汇聚了科技界最具影响力的一些名字，但值得注意的是，其中缺少了OpenAI和Anthropic这两家封闭的专有AI实验室。它们的缺席可以理解，因为它们是封闭实验室，而开源权重AI模型实际上是其竞争对手。

Nvidia企业平台副总裁Justin Boitano发表声明称，开源权重模型是美国AI领导地位和网络安全的基础。Boitano写道：“为了保持美国在AI工业革命中的领导地位，支撑我们经济的基础设施需要安全可靠地访问封闭和开放模型。对于网络安全而言，开放模型和开放工具至关重要，因为它们扩大了防御能力，增加了防御者的透明度，并通过可定制的本地化控制补充了前沿封闭模型。”

随着监管机构努力应对AI安全，Boitano预测，“认识到开放模型和开放工具作为防御资产”将很重要，从而实现透明度、独立评估和共享修复。

技术咨询公司The Enterprise Edge的创始人兼CEO Mark Vigoroso告诉The New Stack，AI监管机构传统上“围绕审计少数封闭实验室建立了整个AI安全体系”。而现在，这种方法已经过时。“开源权重模型几个月前就超越了封闭模型方法，”Vigoroso说。“这个联盟承认，实际的安全工作现在必须在基础设施层进行：补丁周期、来源、围绕谁在部署什么的身份验证，因为没有人能传唤一个下载的权重文件。”

Vigoroso认为，AI安全辩论“停滞在模型级控制”，而真正的监管差距在于基础设施和身份的来源，即知道模型来自哪里、谁部署了模型以及它接触了什么，而不仅仅是模型本身是否安全。

“像欧盟AI办公室、NIST的AI标准与创新中心（CAISI）和英国AI安全研究所（AISI）这样的机构几乎只关注前沿封闭模型。开源权重模型（Mistral、DeepSeek等）落入了监管盲区：一旦权重发布，就无法强制执行下游安全义务。”

当前的AI模型监管框架假设有一个单一的责任部署者；而开源模型则没有。Vigoroso说，这才是真正的故事：监管者在为集中化的世界制定规则，而生态系统正在去中心化。

虽然关于该联盟意图的具体操作信息目前还很匮乏，但Nvidia强调，它正在向开放安全AI联盟贡献扎实的研究，以加速新网络安全工具和技术的开发。

开源Nvidia实验室面向对象代理（NOOA）项目现已在GitHub上可用，使AI安全能力更易于应用于代理工具。该研究框架使工具能够与模型集成，使代理行为更容易测试、追踪、审计和治理。

身份验证和端到端加密公司Atsign的CEO Aparna Rayasam告诉The New Stack，“AI闪电战讨论已经到了一个关键的转折点”。这个时刻，我们不能在Rayasam所说的“遗留的、瑞士奶酪式的基础设施”上构建下一代开放认知创新。

Rayasam说：“开放安全AI联盟的成立证明AI安全不仅仅是一个算法数学问题——它是一个基础性的网络问题。训练和运行现代AI所需的大规模分布式管道需要一种全新的信任范式。真正的安全意味着确保为这些模型提供数据的数据管道本质上是不可见的、不可攻击的，并且完全摆脱了开放网络边界。”

这里的关键概念是，我们正在从保护静态数据的世界转向一个AI的连接组织必须安全设计的世界。

代理身份和权限安全公司Reco的创始人兼CPO Gal Nakash告诉The New Stack，开放安全AI联盟的成立是一个“重要信号”，强调了为什么AI安全不能由单一供应商或单一封闭框架解决。

Nakash说：“Jensen Huang关于每个SaaS公司都将成为GaaS公司的观点说明了为什么这很重要：软件正在从人们登录的被动工具转变为访问数据、采取行动和执行工作流的AI代理。开源工具和共享标准可以帮助行业更快发展，但它们需要基于身份、权限、数据访问和行为等真实的企业环境。”

自动化身份驱动微隔离公司Zero Networks的现场CTO Chris Boehm告诉The New Stack，开放安全AI联盟的消息让他感觉似曾相识。

Boehm说：“这看起来就像微软的可信平台模块（TPM）故事的重演。这是一个行业团体定义可信硬件含义的案例，平台供应商采用它，几年内它成为采购要求而不是建议。”他解释说，“Windows 11正是这样做的，要求TPM 2.0和安全启动”，而Linux和苹果也适应了。“我预计AI基础设施也会如此，经过认证的芯片成为受监管工作负载的基础，供应商名单缩小到那些能够满足要求的人。”

开放技术组织OpenUK的CEO Amanda Brock告诉The New Stack，开放AI联盟无疑是一个很好的起点，尤其是在OpenAI上周披露了其安全问题之后。“但是，就像关于美国在开源权重方面的领导地位的公开信一样，这是美国对挑战的美国式回应。关于总统行政命令关闭开放模型的传言已经流传了数周——而且由于特朗普政府因中国的Kimi K3而陷入混乱，情况更加恶化。”

Brock坚持认为，这个联盟要成功，就需要采取更“全球化和地域包容性的方法”，超越以美国为中心的创始成员。“它还必须吸引构建AI基础设施、代理工具功能和开发者工具的个人和创新者的开源生态系统。重要的是要认识到，开放AI基础设施的发展将创新交到了许多人手中，与少数前沿模型的企业创造者直接对立。”

Nvidia的Boitano呼应了Brock的观点。在一篇由The New Stack审阅草稿的博文中，他写道，“开放模型将更多AI用户转变为AI构建者”，扩大了机会，加速了创新，并防止进步集中在少数组织或地区。

Boitano最后总结道，开放模型还使对AI系统行为的独立科学研究成为可能，使研究人员能够理解、评估和改进它们。这完全关乎他所说的使广泛、持续的防御成为可能。

展望未来，AI安全机构、运动或联盟的下一波浪潮似乎将不仅仅是模型审计者——它们将是信任基础设施标准机构（包括身份验证、内容来源、可信度等），采用借用的治理和合规方法。最终，这可能是唯一能在开源权重扩散中生存下来的执行层。