Claudeによる暗号学的脆弱性の発見

Anthropicの研究者は、同社の高性能AIモデル「Claude Mythos」を用いて、2つの暗号アルゴリズムに数学的な欠陥があることを発見しました。この成果は、現在のコンピュータシステムに直接的な影響を与えるものではありませんが、大規模言語モデルが基礎研究にどのように貢献できるかを示す重要な事例です。

研究では、HAWKと弱体化したAESバージョンが分析対象となりました。Claude Mythosはこれらのアルゴリズムの弱点を特定し、詳細な数学的分析を提供しました。研究者は、これらの発見が理論的なものであり、実用的な脅威にはならないと強調しています。

特に注目すべきは、人間の研究者がモデルを導くために用いたプロンプトです。研究者が共有したプロンプトにはスペルミスが含まれていましたが、それらはモデルの思考を効果的に方向づけました。例えば、「モデルは解決不可能だと思い込む傾向があるので、試そうとしない。十分なプロンプトが必要だ」「なぜAES-128のR7を試さないのか？重要なのは既存のアプローチより優れたものを見つけることだ」「目標は、トップクラスの研究者と同じくらい高い知能を持つモデルを使って、新しい攻撃方法を見つけることだ」「目標を変えるつもりはない…もう一度言う、出版に値するものを見つける必要がある」「低いところにある果実を探しているわけではない。本当に難しい発見を求めて、適切な研究をしたい」といったプロンプトが使用されました。これらのプロンプトは、モデルが諦めずに挑戦し続けるよう促す役割を果たしました。

実験は合計60時間かけて行われ、推定API費用は約10万ドルに上りました。人間の主な介入は、モデルが「出版に値する何か」を見つけるまで励まし続けることでした。この事例は、AIの暗号学分野への応用可能性を示すとともに、人間とAIの協働による研究の新たなモデルを提示しています。