利用Claude發現密碼學漏洞
Anthropic研究人員使用Claude Mythos成功發現了HAWK和簡化版AES的數學缺陷，儘管這些發現對現有系統沒有實際影響。研究過程中，人類透過精心設計的提示鼓勵模型堅持探索，最終耗時60小時，API成本約10萬美元。
Anthropic的研究人員近日利用其高階AI模型Claude Mythos，成功發現了兩種密碼學演算法中的數學缺陷。這一成果雖然目前沒有對實際計算機系統構成威脅，卻展示了大型語言模型在推動基礎研究方面的巨大潛力。
研究中，Claude Mythos被用來分析HAWK和一種簡化版的AES演算法。令人驚訝的是，模型不僅發現了這些演算法中的弱點，還給出了詳細的數學分析。然而，研究人員強調，這些發現目前僅停留在理論層面，不會對現有系統造成實際影響。
更值得關注的是研究過程中的人類參與。研究人員分享了一系列提示，這些提示充滿了拼寫錯誤，卻有效地引導了模型的思考方向。例如，當模型認為任務不可能時，提示鼓勵它不要放棄：“模型往往認為不可能解決，所以它們不會嘗試。它們需要充分的提示。”其他提示包括：“為什麼不嘗試AES-128的第七輪？關鍵是找到比現有方法更好的東西。”“不，目標是我們擁有像頂級研究員一樣高智慧的模型，我們要發現新的攻擊方法。”“我們不想改變目標……再次強調，我們需要找到值得發表的東西。”“我們不是在尋找低垂的果實，我們要做真正的研究，找到真正困難的發現。”這些提示展示了人類如何透過語言激勵AI超越其初始限制。
整個實驗耗時60小時，API呼叫成本估計約為10萬美元。主要的人類干預就是透過提示讓模型堅持探索，最終“找到值得發表的東西”。這一案例不僅證明了AI在密碼學領域的應用潛力，也為未來人機協作的研究模式提供了新的思路。