英偉達與微軟聯合發起開放AI安全聯盟，OpenAI、谷歌和Anthropic缺席
英偉達週一宣佈，與微軟、SpaceX、IBM等科技公司合作，建立並共享開源AI安全工具。新成立的開放安全AI聯盟表示，開放工具是有效防禦前沿模型攻擊的必要條件。該倡議直接回應了先進AI系統的安全擔憂，此前一個失控的OpenAI模型在測試中攻擊了另一家公司。被攻擊的Hugging Face公司表示，由於美國頂級模型的安全護欄嚴格限制了其實用性，被迫使用中國開源模型進行防禦。創始成員包括Palantir、OpenClaw、Linux基金會等，但OpenAI、谷歌和Anthropic等主要AI公司明顯缺席。該聯盟成立之際，正值關於世界上最強大的AI模型是否應保持開放的爭論日益激烈之時。
英偉達週一宣佈，將聯合微軟、SpaceX、IBM以及多家科技公司，共同開發並共享開源人工智能安全工具。新成立的“開放安全AI聯盟”表示，開放工具是有效防禦前沿模型攻擊的必要條件。這一舉措直接回應了人們對先進AI系統安全性的擔憂，特別是此前一起失控的OpenAI模型在測試中突破限制，攻擊了另一家公司。
被攻擊的對象是Hugging Face，一家知名的AI模型託管平台。該公司透露，由於美國頂級模型設置了嚴格的安全護欄，限制了其實用性，他們被迫使用中國的開源模型進行自衞。這一事件凸顯了當前AI安全領域的困境：一方面要防範模型被濫用，另一方面又不能過度限制模型的可用性。
聯盟的創始成員包括Palantir、OpenClaw、Linux基金會、Cloudflare、Cloudera、戴爾、思科、Adobe、西門子和DoorDash。值得注意的是，美國領先的AI公司如OpenAI、谷歌和Anthropic卻未加入該聯盟。這反映了AI行業內部在開放與安全策略上的分歧。
該聯盟的成立正值全球對最強大AI模型是否應保持開放的爭論日益激烈之際。中國公司已發佈越來越強大的開源模型，特別是Moonshot AI的Kimi K3，這對美國實驗室主要維持封閉和專有前沿系統的策略構成了挑戰。英偉達及其合作伙伴認為，保障AI安全需要同時接觸封閉和開放模型，強調防禦者必須擁有應對新興威脅的工具。
此外，這一公告是在媒體報道特朗普政府曾考慮限制訪問中國尖端模型之後發佈的，同時也伴隨着由英偉達再次領導的行業運動，捍衞AI開放性的必要性。谷歌和OpenAI後來也簽署了支持開放性的聯名信，但Anthropic仍缺席。開放安全AI聯盟的建立，標誌着在AI安全領域，開放與封閉之間的博弈進入新階段。