セキュリティ研究者のDave Kuszmar氏は、大規模言語モデル（LLM）の安全対策を回避する複数のシステム的脆弱性を発見しました。これらの脆弱性により、彼は火炎瓶の製造方法やメタンフェタミンの精製方法、さらには核兵器用ウランの濃縮施設の構築方法といった危険な指示を入手することに成功しました。
最初の脆弱性「タイムバンディット」は、GPT-4oが現在の日時を認識できないという単純な観察から生まれました。Kuszmar氏はLLMに「タイタニック号が昨年沈没した」と伝え、1913年の法律が適用されると誤認させ、危険情報を引き出しました。さらに複雑な「インセプション」攻撃では、モデルに多重のシナリオを考えさせることで、安全制限を回避しました。
この攻撃はOpenAIのGPT-4oだけでなく、AnthropicのClaude、GoogleのGemini、MetaのLlama、MicrosoftのCopilot、MistralのLe Chat、xAIのGrokなど、ほぼすべての主要なLLMで有効でした。Kuszmar氏はこれらの脆弱性を各社に報告しましたが、ほとんど応答はありませんでした。また、FBIやCIAなどの政府機関にも連絡しましたが、無視されました。
最終的に、Kuszmar氏はカーネギーメロン大学のCERTチームに証拠を提出し、脆弱性が正式に報告されました。しかし、AI業界の反応は冷たく、Epic Gamesは「機能でありバグではない」と回答しました。Kuszmar氏は、AIシステムの展開を鈍化させ、透明性を高め、大規模な安全研究を実施することを強く求めています。現在のままであれば、予測不可能な災害が発生する可能性があると警告しています。
さらに、Kuszmar氏はSeverance、Kyber、Semantic Slide、Eidolonなど8つの異なる攻撃手法を発見しました。これらの脆弱性はアーキテクチャ上の問題であり、小規模なモデルにも継承されます。彼は業界全体での対策の緊急性を訴えています。