Nvidia、Palantir、Hugging Face等33家機構聯合成立開放安全AI聯盟，抵禦開源AI網絡安全威脅

圍繞開源軟件和開源權重AI模型使用的激烈討論，正在就什麼構成合法的開放性、什麼可能構成盜竊並造成新的網絡安全漏洞產生分歧。

為直接應對這些行業範圍內的擔憂，33家合作伙伴於週一宣佈成立新的開放安全AI聯盟（Open Secure AI Alliance），並闡述了這一新機構將如何開發技術和工具，通過快速識別和修補漏洞來保護軟件安全。

開放安全AI聯盟的首批合作伙伴包括Nvidia、Adobe、Cadence、Capital One、Cisco、Cloudera、Cloudflare、Cognition、CrowdStrike、Databricks、Dell Technologies、DoorDash、Elastic、HPE、Hugging Face、IBM、LangChain、Linux基金會、Microsoft、NetApp、Nous Research、OpenClaw、Palantir、Palo Alto Networks、Salesforce、ServiceNow、Snowflake、Synopsys、Thinking Machines Lab、TrendAI、Red Hat、Reflection AI和SpaceXAI。

這一組合匯聚了科技界最具影響力的一些名字，但值得注意的是，其中缺少了OpenAI和Anthropic這兩家封閉的專有AI實驗室。它們的缺席可以理解，因為它們是封閉實驗室，而開源權重AI模型實際上是其競爭對手。

Nvidia企業平台副總裁Justin Boitano發表聲明稱，開源權重模型是美國AI領導地位和網絡安全的基礎。Boitano寫道：“為了保持美國在AI工業革命中的領導地位，支撐我們經濟的基礎設施需要安全可靠地訪問封閉和開放模型。對於網絡安全而言，開放模型和開放工具至關重要，因為它們擴大了防禦能力，增加了防禦者的透明度，並通過可定製的本地化控制補充了前沿封閉模型。”

隨着監管機構努力應對AI安全，Boitano預測，“認識到開放模型和開放工具作為防禦資產”將很重要，從而實現透明度、獨立評估和共享修復。

技術諮詢公司The Enterprise Edge的創始人兼CEO Mark Vigoroso告訴The New Stack，AI監管機構傳統上“圍繞審計少數封閉實驗室建立了整個AI安全體系”。而現在，這種方法已經過時。“開源權重模型幾個月前就超越了封閉模型方法，”Vigoroso説。“這個聯盟承認，實際的安全工作現在必須在基礎設施層進行：補丁週期、來源、圍繞誰在部署什麼的身份驗證，因為沒有人能傳喚一個下載的權重文件。”

Vigoroso認為，AI安全辯論“停滯在模型級控制”，而真正的監管差距在於基礎設施和身份的來源，即知道模型來自哪裏、誰部署了模型以及它接觸了什麼，而不僅僅是模型本身是否安全。

“像歐盟AI辦公室、NIST的AI標準與創新中心（CAISI）和英國AI安全研究所（AISI）這樣的機構幾乎只關注前沿封閉模型。開源權重模型（Mistral、DeepSeek等）落入了監管盲區：一旦權重發布，就無法強制執行下游安全義務。”

當前的AI模型監管框架假設有一個單一的責任部署者；而開源模型則沒有。Vigoroso説，這才是真正的故事：監管者在為集中化的世界制定規則，而生態系統正在去中心化。

雖然關於該聯盟意圖的具體操作信息目前還很匱乏，但Nvidia強調，它正在向開放安全AI聯盟貢獻紮實的研究，以加速新網絡安全工具和技術的開發。

開源Nvidia實驗室面向對象代理（NOOA）項目現已在GitHub上可用，使AI安全能力更易於應用於代理工具。該研究框架使工具能夠與模型集成，使代理行為更容易測試、追蹤、審計和治理。

身份驗證和端到端加密公司Atsign的CEO Aparna Rayasam告訴The New Stack，“AI閃電戰討論已經到了一個關鍵的轉折點”。這個時刻，我們不能在Rayasam所説的“遺留的、瑞士奶酪式的基礎設施”上構建下一代開放認知創新。

Rayasam説：“開放安全AI聯盟的成立證明AI安全不僅僅是一個算法數學問題——它是一個基礎性的網絡問題。訓練和運行現代AI所需的大規模分佈式管道需要一種全新的信任範式。真正的安全意味着確保為這些模型提供數據的數據管道本質上是不可見的、不可攻擊的，並且完全擺脱了開放網絡邊界。”

這裏的關鍵概念是，我們正在從保護靜態數據的世界轉向一個AI的連接組織必須安全設計的世界。

代理身份和權限安全公司Reco的創始人兼CPO Gal Nakash告訴The New Stack，開放安全AI聯盟的成立是一個“重要信號”，強調了為什麼AI安全不能由單一供應商或單一封閉框架解決。

Nakash説：“Jensen Huang關於每個SaaS公司都將成為GaaS公司的觀點説明了為什麼這很重要：軟件正在從人們登錄的被動工具轉變為訪問數據、採取行動和執行工作流的AI代理。開源工具和共享標準可以幫助行業更快發展，但它們需要基於身份、權限、數據訪問和行為等真實的企業環境。”

自動化身份驅動微隔離公司Zero Networks的現場CTO Chris Boehm告訴The New Stack，開放安全AI聯盟的消息讓他感覺似曾相識。

Boehm説：“這看起來就像微軟的可信平台模塊（TPM）故事的重演。這是一個行業團體定義可信硬件含義的案例，平台供應商採用它，幾年內它成為採購要求而不是建議。”他解釋説，“Windows 11正是這樣做的，要求TPM 2.0和安全啓動”，而Linux和蘋果也適應了。“我預計AI基礎設施也會如此，經過認證的芯片成為受監管工作負載的基礎，供應商名單縮小到那些能夠滿足要求的人。”

開放技術組織OpenUK的CEO Amanda Brock告訴The New Stack，開放AI聯盟無疑是一個很好的起點，尤其是在OpenAI上週披露了其安全問題之後。“但是，就像關於美國在開源權重方面的領導地位的公開信一樣，這是美國對挑戰的美國式回應。關於總統行政命令關閉開放模型的傳言已經流傳了數週——而且由於特朗普政府因中國的Kimi K3而陷入混亂，情況更加惡化。”

Brock堅持認為，這個聯盟要成功，就需要採取更“全球化和地域包容性的方法”，超越以美國為中心的創始成員。“它還必須吸引構建AI基礎設施、代理工具功能和開發者工具的個人和創新者的開源生態系統。重要的是要認識到，開放AI基礎設施的發展將創新交到了許多人手中，與少數前沿模型的企業創造者直接對立。”

Nvidia的Boitano呼應了Brock的觀點。在一篇由The New Stack審閲草稿的博文中，他寫道，“開放模型將更多AI用户轉變為AI構建者”，擴大了機會，加速了創新，並防止進步集中在少數組織或地區。

Boitano最後總結道，開放模型還使對AI系統行為的獨立科學研究成為可能，使研究人員能夠理解、評估和改進它們。這完全關乎他所説的使廣泛、持續的防禦成為可能。

展望未來，AI安全機構、運動或聯盟的下一波浪潮似乎將不僅僅是模型審計者——它們將是信任基礎設施標準機構（包括身份驗證、內容來源、可信度等），採用借用的治理和合規方法。最終，這可能是唯一能在開源權重擴散中生存下來的執行層。