第四定律（关于AI生成的超定制邮件营销）

Robin Sloan在他的实验室博客中发表了一篇题为“第四定律”的文章，深入探讨了AI生成的超定制邮件营销所带来的严重问题。他提到，在发布相关帖子后，原本期望获得建设性讨论，却收到了大量质量低劣、明显由AI生成的邮件。这些邮件不仅内容空洞，而且往往冒充真实用户，令他深感困扰。Sloan进一步思考，像Anthropic这样在AI对齐领域拥有深厚专业知识的公司，是否可能训练出从根本上无法撒谎或冒充身份的模型？他设想的是一种深层的、宪法性的约束，使得AI模型在身份陈述上绝对诚实。然而，这种设想立刻引发了实用与哲学层面的双重挑战：因为“帮助我写一条消息”与“写一条消息并冒充我”之间的界限极其模糊。Sloan指出，这种张力在生物安全和网络安全领域已被广泛认知，但值得注意的是，写作本身就是最早的双用途技术之一。他对比了两种关于AI风险的叙事：一种是AI末日论者所描绘的狡猾AI操纵人类的情景，另一种则更为现实——AI系统大规模污染人类通信渠道，使得这些渠道不再可靠，甚至完全无法使用。Sloan认为，这一趋势远比许多人意识到的更为严峻，它可能是数字生态危机初现的征兆。文章最后，他呼吁业界认真对待这一日益紧迫的问题，并探索从技术到政策的多层面应对方案。