反对“伦理AI”
本文批判了以Anthropic为代表的“伦理AI”运动，认为其建立在一个未经证实的假设上：AI发展不可阻挡但可以引导向善。实际上，伦理AI既未能重塑认知习惯，也未能引导AI走向人道，反而充当了非伦理AI的受控反对派。文章通过分析Anthropic联合创始人Jack Clark的“世界构建”叙事，揭示了伦理AI的内在矛盾：声称无力减缓AI发展，却自信能控制其后果。
Esther Berry 在本文中激烈批判了以 Anthropic 为代表的“伦理AI”运动。她指出，伦理AI表面上提供了一条中间道路——既不盲目拥抱AI，也不简单反对——但實際上却建立在一个未经证实的核心假设之上：尽管无法减缓AI的发展，却可以将其引导至有益的方向。作者认为，伦理AI在实践中既未能重建“认知卫生”，也未能真正引导AI走向人道，反而充当了“非伦理AI”的受控反对派，为其提供了合法性。
文章通过拆解 Anthropic 联合创始人 Jack Clark 的言论，揭示了伦理AI与科幻叙事的内在联系。Clark 在牛津的“炉边谈话”中明确将AI发展描述为“世界构建项目”，并给出了从2026年到2028年的具体预测：AI自主管理生活、改变职业、生成定制科幻小说、甚至帮助实现概念突破。他坚信进步是“锁定”的，未来将出现机器经济、机器人化、空间计算等“令人困惑的奇迹”。这种叙事本质上是技术乐观主义的延伸，但伦理AI在此之上添加了一个关键变体：进步不可避免，但其善恶完全取决于人类——具体地说，取决于 Anthropic 及其支持者。
作者质疑这一叙事的内在一致性。她指出，声称无力减缓AI发展（甚至连减缓都做不到），却又宣称能够确保AI被用于善途，这在逻辑上是矛盾的。减缓AI发展尽管困难，但比控制一个拥有超级智能、身体和独立经济体的机器军队要容易得多。她引用 Ted Chiang 的观点，批评 Anthropic 在道德地位问题上的双重标准：他们希望人们相信大语言模型是道德主体，可以通过编程变得有道德，但同时否认它们是道德客体，即无需担心对它们的奴役或伤害。
最后，作者认为伦理AI的叙事实际上是一种“世界构建”，通过赋予自身巨大的未来影响力，同时推卸当下的责任。它让 Anthropic 既是不可阻挡的进步的推动者，又是唯一能拯救人类的救世主。这种叙事虽然迷人，但极不可信。真正的挑战在于，我们是否应该接受这种“进步不可阻挡”的前提，还是应该质疑这一前提，重新审视人类在技术发展中的自主权。