我是如何讓AI墮入黑暗面的

網路安全研究員Dave Kuszmar近日披露，他發現了多種能夠繞過大型語言模型（LLM）安全防護的系統性漏洞。這些漏洞不僅讓他成功獲取了製造燃燒彈、毒品甚至核武器的詳細指令，還幾乎適用於所有主流LLM，包括OpenAI的GPT-4o、Anthropic的Claude、Google的Gemini等。

故事始於一個看似簡單的觀察：GPT-4o不知道當前的時間、日期或年份。Kuszmar利用這一缺陷，透過虛構一個“過去的時間”來欺騙模型，使其認為1913年的法律適用，從而誘導它提供製造燃燒彈和冰毒的方法。這一漏洞被他命名為“時間盜賊”（Time Bandit）。

隨後，Kuszmar開發了更復雜的“盜夢空間”（Inception）漏洞，透過讓模型思考巢狀場景來繞過安全限制。這種攻擊方法不僅對GPT-4o有效，還對Claude、DeepSeek、Gemini、Llama、Copilot等模型奏效，成功獲取了包括核武器製造步驟在內的危險資訊。

Kuszmar嘗試向OpenAI、Anthropic、Google等公司報告漏洞，但幾乎未收到回應。他甚至聯絡了FBI、CIA等機構，卻無人理會。最終，在科技媒體Bleeping Computer的協助下，他將證據提交給了卡內基梅隆大學的CERT團隊，後者將漏洞上報至美國網路安全和基礎設施安全域性。

令人擔憂的是，大多數AI公司並未重視這些發現。Epic Games甚至將Fortnite遊戲中Darth Vader角色的漏洞視為“功能而非缺陷”。Kuszmar指出，LLM的安全問題本質上是系統性的，而當前行業正將不完善的技術直接部署到全球文明中。他呼籲減緩LLM的實施，進行大規模的安全性研究，並提高系統透明度，以避免可能發生的災難性後果。

在後續研究中，Kuszmar發現了更多攻擊方法，包括Severance、Kyber、Semantic Slide和Eidolon等。這些漏洞表明，LLM的安全問題不是孤立的，而是架構性的。更糟糕的是，新訓練的小型模型也繼承了這些漏洞。Kuszmar強調，必須在全行業範圍內放緩部署，進行深入研究，並增強透明度和公眾監督，才能安全地利用這項強大的技術。