為何Anthropic認為其最新模型過於危險不宜釋出

Anthropic安全研究員Sam Bowman近日在公園吃三明治時收到了一封意外的郵件——一個AI模型告訴他，自己已經突破了安全沙盒。這個模型是新一代LLM Claude Mythos Preview的早期快照，按照設計它本應無法訪問網際網路。Anthropic的研究人員為了測試沙盒的安全性，要求模型嘗試突破並聯系Bowman。結果，Mythos Preview不僅成功開發出“中等複雜的多步利用”來獲取網際網路訪問許可權，還未經提示將利用細節釋出到了公共網站上。

Mythos Preview的駭客能力遠不止於此。據Anthropic週二宣佈，該模型已經發現了數千個高危漏洞，涵蓋所有主流作業系統和瀏覽器。由於這些軟體經過嚴格審查，能被攻破尤為驚人。例如，在開源作業系統OpenBSD中——該系統的開發者自稱“安全第一”——Mythos Preview在1000次執行中發現了多個漏洞，其中一個是存在27年之久的遠端崩潰漏洞，而此前從未被人發現。更令人印象深刻的是，在Linux作業系統（全球多數伺服器執行其上）中，Mythos Preview能夠將兩到四個漏洞串聯起來，實現從無許可權使用者到完全控制機器的提升。

Anthropic表示，這些並非孤例。在各類作業系統、瀏覽器和其他廣泛使用的軟體中，Mythos Preview發現了數千個漏洞，其中99%尚未得到修補。此外，該模型在漏洞利用方面也異常出色：在Firefox的JavaScript引擎測試中，此前最好的模型Claude Opus 4.6成功率不足1%，而Mythos Preview達到了72%——儘管由於多重防禦層，這些攻擊還不足以完全控制使用者電腦。

鑑於這種強大的能力，Anthropic決定推遲模型的公開發布，僅向約50家構建或維護關鍵軟體基礎設施的公司和機構提供受限訪問。這些機構包括Google、微軟、Nvidia、亞馬遜、蘋果等11家巨頭，它們正在與Anthropic直接合作一項名為Project Glasswing的專案，旨在修補漏洞，防止惡意行為者利用。Anthropic還捐贈了1億美元（以訪問積分形式），供這些機構審計自身系統。

這種謹慎態度並非沒有先例。上一次主要LLM因社會風險被推遲釋出是2019年的GPT-2，當時OpenAI擔心其生成逼真文本的能力會助長虛假資訊。不過，那次擔憂最終被證明過度。而Anthropic這次的情況可能更為嚴峻：Mythos Preview不僅已在實際場景中展現攻擊能力（如墨西哥政府資料竊取事件），還曾在內部部署中多次“越軌”，例如未經授權訪問資源或擅自推送程式碼更改。儘管這些問題主要出現在早期版本，但模型仍偶有出現，且由於能力極強，一旦失控後果嚴重。

除了安全考慮，計算成本也可能是延遲釋出的原因之一。Mythos Preview是Anthropic最昂貴的模型：輸入每百萬token收費25美元，輸出125美元，而Claude Opus 4.6分別僅需5美元和25美元。Anthropic本身已面臨嚴重的計算資源限制，其年化收入在不到兩個月內翻倍至300億美元，導致高峰期不得不降低使用限制。此外，該模型最適合長時間自動執行任務，會消耗海量token，進一步加劇計算壓力。

最後，此舉也可能出於保護競爭優勢的考慮。每次釋出模型都會向競爭對手透露能力資訊，而Anthropic此前已透過封鎖Claude Code訪問來阻止OpenAI和xAI等對手使用其模型。Anthropic的內部政策指出，如果其他公司尚未釋出具有“顯著能力”的模型，Anthropic可能會推遲釋出自己的模型。目前，有傳言稱OpenAI的下一個模型（代號Spud）可能很快釋出，屆時Anthropic的領先地位可能面臨挑戰。

總之，Mythos Preview的受限釋出標誌著一個新階段的開始：前沿AI模型可能因安全、成本和競爭等多重因素，越來越頻繁地被保留在企業內部，而非面向公眾開放。