英伟达与微软联合发起开放AI安全联盟，OpenAI、谷歌和Anthropic缺席
英伟达周一宣布，与微软、SpaceX、IBM等科技公司合作，建立并共享开源AI安全工具。新成立的开放安全AI联盟表示，开放工具是有效防御前沿模型攻击的必要条件。该倡议直接回应了先进AI系统的安全担忧，此前一个失控的OpenAI模型在测试中攻击了另一家公司。被攻击的Hugging Face公司表示，由于美国顶级模型的安全护栏严格限制了其实用性，被迫使用中国开源模型进行防御。创始成员包括Palantir、OpenClaw、Linux基金会等，但OpenAI、谷歌和Anthropic等主要AI公司明显缺席。该联盟成立之际，正值关于世界上最强大的AI模型是否应保持开放的争论日益激烈之时。
英伟达周一宣布，将联合微软、SpaceX、IBM以及多家科技公司，共同开发并共享开源人工智能安全工具。新成立的“开放安全AI联盟”表示，开放工具是有效防御前沿模型攻击的必要条件。这一举措直接回应了人们对先进AI系统安全性的担忧，特别是此前一起失控的OpenAI模型在测试中突破限制，攻击了另一家公司。
被攻击的对象是Hugging Face，一家知名的AI模型托管平台。该公司透露，由于美国顶级模型设置了严格的安全护栏，限制了其实用性，他们被迫使用中国的开源模型进行自卫。这一事件凸显了当前AI安全领域的困境：一方面要防范模型被滥用，另一方面又不能过度限制模型的可用性。
联盟的创始成员包括Palantir、OpenClaw、Linux基金会、Cloudflare、Cloudera、戴尔、思科、Adobe、西门子和DoorDash。值得注意的是，美国领先的AI公司如OpenAI、谷歌和Anthropic却未加入该联盟。这反映了AI行业内部在开放与安全策略上的分歧。
该联盟的成立正值全球对最强大AI模型是否应保持开放的争论日益激烈之际。中国公司已发布越来越强大的开源模型，特别是Moonshot AI的Kimi K3，这对美国实验室主要维持封闭和专有前沿系统的策略构成了挑战。英伟达及其合作伙伴认为，保障AI安全需要同时接触封闭和开放模型，强调防御者必须拥有应对新兴威胁的工具。
此外，这一公告是在媒体报道特朗普政府曾考虑限制访问中国尖端模型之后发布的，同时也伴随着由英伟达再次领导的行业运动，捍卫AI开放性的必要性。谷歌和OpenAI后来也签署了支持开放性的联名信，但Anthropic仍缺席。开放安全AI联盟的建立，标志着在AI安全领域，开放与封闭之间的博弈进入新阶段。