Anthropic的研究人员近日利用其高级AI模型Claude Mythos，成功发现了两种密码学算法中的数学缺陷。这一成果虽然目前没有对实际计算机系统构成威胁，却展示了大型语言模型在推动基础研究方面的巨大潜力。
研究中，Claude Mythos被用来分析HAWK和一种简化版的AES算法。令人惊讶的是，模型不仅发现了这些算法中的弱点，还给出了详细的数学分析。然而，研究人员强调，这些发现目前仅停留在理论层面，不会对现有系统造成实际影响。
更值得关注的是研究过程中的人类参与。研究人员分享了一系列提示，这些提示充满了拼写错误，却有效地引导了模型的思考方向。例如，当模型认为任务不可能时，提示鼓励它不要放弃：“模型往往认为不可能解决，所以它们不会尝试。它们需要充分的提示。”其他提示包括：“为什么不尝试AES-128的第七轮？关键是找到比现有方法更好的东西。”“不，目标是我们拥有像顶级研究员一样高智能的模型，我们要发现新的攻击方法。”“我们不想改变目标……再次强调，我们需要找到值得发表的东西。”“我们不是在寻找低垂的果实，我们要做真正的研究，找到真正困难的发现。”这些提示展示了人类如何通过语言激励AI超越其初始限制。
整个实验耗时60小时，API调用成本估计约为10万美元。主要的人类干预就是通过提示让模型坚持探索，最终“找到值得发表的东西”。这一案例不仅证明了AI在密码学领域的应用潜力，也为未来人机协作的研究模式提供了新的思路。