杰里米·霍华德(Jeremy Howard)近日在推特上提出了一套他认为可以“轻松”减缓递归式AI自我改进的方案,而这一观点由西蒙·威利森(Simon Willison)在其博客上于2026年6月10日以引文形式收录。霍华德的设想包含两条核心规则:第一,拥有排名最高模型的实验室必须同意自己不得将该模型用于前沿AI的研究工作;第二,其他所有人都应当能够使用这个模型。他指出,按照定义,这样一来前沿就不会继续向前推进,同时也带来一个关键好处,即避免出现危险的权力失衡。
随后,霍华德将矛头指向Anthropic,认为该公司选择了与安全路径完全相反的做法。他写道,Anthropic作为当前处于顶端的实验室,允许自己使用自家最强模型进行前沿AI研究,并且还表示会对试图这样做的其他人进行阻挠。霍华德认为,这样的结果是AI前沿继续推进,而权力失衡进一步加剧。
值得注意的是,霍华德在引文中特意澄清了自己的真实立场。他表示,他本人并不认为应当试图减缓递归式AI的自我改进,相反,他认为应当尽可能开放并推动其民主化。他的论点是一种逻辑一致性的批评:如果你公开主张应当放慢脚步,而你手中又握有最好的模型,那么你就应当确保自己的机构不能使用它,否则这种主张就缺乏说服力。
这篇引文被贴上了一系列标签,包括AI伦理、Anthropic、生成式AI、Claude Mythos、杰里米·霍华德、AI以及大语言模型。相关话题在威利森的博客中积累了可观的关注度,其中AI标签约有2068篇相关文章,生成式AI约1826篇,大语言模型约1794篇,Anthropic约295篇,AI伦理约314篇,而杰里米·霍华德和Claude Mythos则分别为15篇和13篇。
从时间线来看,这篇引文发布于2026年6月10日,紧随其后的相关文章包括6月11日的《Claude Fable is relentlessly proactive》以及6月9日的《Initial impressions of Claude Fable 5》,再往前还有6月6日关于使用MicroPython和WASM在沙箱中运行Python代码的文章。这些记录显示,该讨论出现在围绕前沿模型能力与治理的持续辩论之中。
霍华德的观点实际上提出了一个关于前沿AI治理的尖锐问题:当一个实验室同时扮演规则制定者和最强能力持有者的角色时,如何避免自我优待和权力集中。无论读者是否认同他关于“减缓”的结论,他所强调的一致性要求——主张安全者应先约束自身——仍是当前AI伦理讨论中难以回避的议题。