Anthropic呼吁‘暂停’AI开发以讨论风险
Anthropic提出全球暂时停止AI开发，并计划召集政策制定者讨论高级AI的风险，但一些专家认为这不过是营销手段。
美国人工智能公司Anthropic近日提出，全球应暂时停止AI开发，并计划召集政策制定者共同讨论先进AI带来的风险。该公司在最新发布的产品能力宣传中提出了这一倡议，但遭到一些专家的质疑，认为这更像是一种营销策略，而非真正的安全呼吁。
在周四发布的一篇长篇博文中，Anthropic详细介绍了其AI模型Claude在“递归自我改进”方面取得的进展。递归自我改进是指AI系统能够自我生成更强大版本的能力，这是AI安全研究人员长期关注的焦点，被视为AI迈向超级智能的关键一步，可能对人类产生广泛而深远的影响。Anthropic声称，Claude已经展示了初步的递归自我改进能力，这引发了新一轮关于AI发展速度与安全性的讨论。
尽管Anthropic的呼吁意在推动全球范围内的政策讨论，但批评者指出，该公司在发布商业产品的同时提出暂停，存在利益冲突。无论如何，这一事件再次凸显了AI领域在安全与进步之间的紧张关系，以及监管滞后于技术发展的现实。