跳到主要内容
AI News HubLIVE
站内改写2 分钟阅读

Jeremy Howard 论如何放缓递归式 AI 自我改进

文章摘要

Jeremy Howard 提出一个逻辑:如果顶级实验室真正担心递归式 AI 自我改进,就应承诺自身不得将最强模型用于前沿研究,而让其他人使用。他认为 Anthropic 的做法恰恰相反,将加剧前沿推进与权力失衡。

Jeremy Howard 论如何放缓递归式 AI 自我改进
报告错误

纠错通道尚未开通,可先复制下方文章信息留存。

查看更正说明
直接读正文

杰里米·霍华德(Jeremy Howard)近日在推特上提出了一套他认为可以“轻松”减缓递归式AI自我改进的方案,而这一观点由西蒙·威利森(Simon Willison)在其博客上于2026年6月10日以引文形式收录。霍华德的设想包含两条核心规则:第一,拥有排名最高模型的实验室必须同意自己不得将该模型用于前沿AI的研究工作;第二,其他所有人都应当能够使用这个模型。他指出,按照定义,这样一来前沿就不会继续向前推进,同时也带来一个关键好处,即避免出现危险的权力失衡。

随后,霍华德将矛头指向Anthropic,认为该公司选择了与安全路径完全相反的做法。他写道,Anthropic作为当前处于顶端的实验室,允许自己使用自家最强模型进行前沿AI研究,并且还表示会对试图这样做的其他人进行阻挠。霍华德认为,这样的结果是AI前沿继续推进,而权力失衡进一步加剧。

值得注意的是,霍华德在引文中特意澄清了自己的真实立场。他表示,他本人并不认为应当试图减缓递归式AI的自我改进,相反,他认为应当尽可能开放并推动其民主化。他的论点是一种逻辑一致性的批评:如果你公开主张应当放慢脚步,而你手中又握有最好的模型,那么你就应当确保自己的机构不能使用它,否则这种主张就缺乏说服力。

这篇引文被贴上了一系列标签,包括AI伦理、Anthropic、生成式AI、Claude Mythos、杰里米·霍华德、AI以及大语言模型。相关话题在威利森的博客中积累了可观的关注度,其中AI标签约有2068篇相关文章,生成式AI约1826篇,大语言模型约1794篇,Anthropic约295篇,AI伦理约314篇,而杰里米·霍华德和Claude Mythos则分别为15篇和13篇。

从时间线来看,这篇引文发布于2026年6月10日,紧随其后的相关文章包括6月11日的《Claude Fable is relentlessly proactive》以及6月9日的《Initial impressions of Claude Fable 5》,再往前还有6月6日关于使用MicroPython和WASM在沙箱中运行Python代码的文章。这些记录显示,该讨论出现在围绕前沿模型能力与治理的持续辩论之中。

霍华德的观点实际上提出了一个关于前沿AI治理的尖锐问题:当一个实验室同时扮演规则制定者和最强能力持有者的角色时,如何避免自我优待和权力集中。无论读者是否认同他关于“减缓”的结论,他所强调的一致性要求——主张安全者应先约束自身——仍是当前AI伦理讨论中难以回避的议题。

展开要点与分析

文章情报

工程师进阶

要点

  • Howard 设想:排名第一的实验室须承诺不用自家最强模型研究前沿 AI,但对外界开放。
  • 他认为这样能延缓前沿进展,并避免危险的权力失衡。
  • 他批评 Anthropic 允许自己用顶级模型推进前沿,并称会阻挠他人。
  • Howard 本人其实支持开源民主化,此建议针对那些主张“放慢”的人。

要点与分析由自动化流程生成,可能有误,请结合原始来源核实。