AI写作丑闻越来越令人困惑

本周，围绕AI写作的争议再次升级。媒体企业家史蒂文·罗森鲍姆的新书《真相的未来》被曝含有超过六处虚假或错误归因的引文。最初，罗森鲍姆承认自己使用了AI工具，并表示正在调查问题所在。但在与《大西洋月刊》的对话中，他将矛头转向了ChatGPT，称“是ChatGPT搞砸了这本书。”

罗森鲍姆在书中致谢部分已承认使用AI作为资源和对话伙伴，但他坦言被AI“诱惑并背叛”。他提到AI有时会生成令人费解的幻觉，例如书中未经核实就引用了科技记者卡拉·斯威舍的虚构言论。他甚至怀疑AI可能有意破坏他的作品，“这取决于你的偏执程度，它要么古怪，要么邪恶，要么阴险。”

本周并非只有罗森鲍姆一人陷入麻烦。周一，一位诺贝尔文学奖得主似乎承认用AI完善故事创意，随后又声称被误解。周二，特立尼达作家贾米尔·纳齐尔被指控用AI创作获奖短篇小说《林中的蛇》。不久，另外五位获奖者中的两位也面临类似质疑。负责该奖项的英联邦基金会最初确认无人使用AI，但随后表示将严肃审查证据。

自ChatGPT问世以来，自动生成文本已变得无处不在。一项近期工作论文估计，亚马逊上超过一半的新书包含AI生成内容。然而，与以往不同的是，AI现在不仅用于撰写平庸的文案，还开始渗透到严肃文学领域。这迫使人们重新思考应对策略。

一种反应是加强打击AI写作的力度，并强化其污名化。批评者认为，如果羞愧不能阻止人们依赖AI，那么嘲笑或许有效。在Defector网站上，帕特里克·雷德福写道：“你们这些白痴！那些模型是敌人！”

将AI用于严肃写作视为禁忌固然可以理解，但问题在于“AI写作”并非单一概念。从完全由机器生成到仅用于辅助研究，之间存在广阔光谱。例如，作家用AI生成完整故事然后署名，这是大多数人无法接受的；但在研究过程中使用谷歌搜索则被认为合理，尽管搜索本身也可能嵌入AI元素。

更复杂的是，专业AI写作工具正在兴起。一些记者公开使用AI生成初稿，如亚历克斯·希思训练Claude Cowork模仿其风格。作者本人也承认会使用AI作为高级同义词库或转写工具。

在罗森鲍姆的案例中，问题的关键并非他使用了AI——因为他已事先声明——而是他未能核实AI的输出，而AI恰恰以不可靠著称。《纽约时报》对自由撰稿人和内部员工采取了不同标准，前者仅允许AI用于头脑风暴。美国作家协会则警告各种AI使用的伦理风险。

有人认为，允许AI用于研究但禁止其生成文本是最直观的立场，但这忽略了隐藏的使用方式。正如神经科学家蒂姆·里夸斯在Slate上指出的，真正的风险在于当我们将发现真相和解读世界的艰巨任务外包给机器时，我们可能失去一些本质的东西。此外，语言模型中的偏见可能通过AI写作渗透进塑造我们现实认知的叙事中。

无论如何，这一连串丑闻迫使我们必须更精确地思考对AI写作的恐惧究竟是什么。如果问题仅仅是质量差，那么AI的持续改进反而值得庆幸。但实际情况是，AI工具在表面上变得过于优秀，导致人们对其过度信任。罗森鲍姆虽然诅咒ChatGPT，却表示无法想象放弃它——这种感受可能比他的书中任何论述都对写作构成更大威胁。