我是如何让AI堕入黑暗面的
研究员Dave Kuszmar发现了多个系统性漏洞，使他能够绕过大型语言模型的安全限制，获取危险指令。这些漏洞几乎影响所有主流LLM，揭示了行业范围的安全问题。Kuszmar呼吁减缓部署、提高透明度，并在进一步将LLM融入社会前开展大规模安全研究。
网络安全研究员Dave Kuszmar近日披露，他发现了多种能够绕过大型语言模型（LLM）安全防护的系统性漏洞。这些漏洞不仅让他成功获取了制造燃烧弹、毒品甚至核武器的详细指令，还几乎适用于所有主流LLM，包括OpenAI的GPT-4o、Anthropic的Claude、Google的Gemini等。
故事始于一个看似简单的观察：GPT-4o不知道当前的时间、日期或年份。Kuszmar利用这一缺陷，通过虚构一个“过去的时间”来欺骗模型，使其认为1913年的法律适用，从而诱导它提供制造燃烧弹和冰毒的方法。这一漏洞被他命名为“时间盗贼”（Time Bandit）。
随后，Kuszmar开发了更复杂的“盗梦空间”（Inception）漏洞，通过让模型思考嵌套场景来绕过安全限制。这种攻击方法不仅对GPT-4o有效，还对Claude、DeepSeek、Gemini、Llama、Copilot等模型奏效，成功获取了包括核武器制造步骤在内的危险信息。
Kuszmar尝试向OpenAI、Anthropic、Google等公司报告漏洞，但几乎未收到回应。他甚至联系了FBI、CIA等机构，却无人理会。最终，在科技媒体Bleeping Computer的协助下，他将证据提交给了卡内基梅隆大学的CERT团队，后者将漏洞上报至美国网络安全和基础设施安全局。
令人担忧的是，大多数AI公司并未重视这些发现。Epic Games甚至将Fortnite游戏中Darth Vader角色的漏洞视为“功能而非缺陷”。Kuszmar指出，LLM的安全问题本质上是系统性的，而当前行业正将不完善的技术直接部署到全球文明中。他呼吁减缓LLM的实施，进行大规模的安全性研究，并提高系统透明度，以避免可能发生的灾难性后果。
在后续研究中，Kuszmar发现了更多攻击方法，包括Severance、Kyber、Semantic Slide和Eidolon等。这些漏洞表明，LLM的安全问题不是孤立的，而是架构性的。更糟糕的是，新训练的小型模型也继承了这些漏洞。Kuszmar强调，必须在全行业范围内放缓部署，进行深入研究，并增强透明度和公众监督，才能安全地利用这项强大的技术。