如果你用AI写作，我会找到你并杀了你
作者Sam Kriss以辛辣讽刺的笔触，批判了AI生成内容对真实人类表达的侵蚀。通过寻找餐饮服务商的经历，揭示了AI写作如何制造出空洞、雷同的文本，并指出AI即使进步到能写出好文章，单一化的声音也是一种噩梦。作者强调AI写作本质上是无意义的填充物，容易识别，并警告那些依赖AI写作的人终将被发现。文章还提及AI在解决数学难题上的成就，但认为在人类情感表达领域它无能为力。
文章情报
要点
- AI写作空洞雷同，缺乏真实信息与人类声音。
- 即使AI写作质量提升，单一化语言风格仍是文化噩梦。
- AI写作本质上是无意义的胡言乱语，很容易识别。
- 依赖AI写作等于放弃独特表达，终将受到惩罚。
为什么重要
这条新闻值得关注，因为AI写作空洞雷同，缺乏真实信息与人类声音。
技术影响
可能影响模型选型、推理成本、产品能力和评测基准。
Sam Kriss在一篇充满愤怒与讽刺的文章中，对AI生成文本的泛滥进行了猛烈的抨击。他讲述了自己为筹备派对而寻找餐饮服务商的经历，却发现几乎所有公司的网站都充斥着空洞的、由AI生成的华丽辞藻，例如“我们不只提供食物，我们创造有意义的体验”或“我们不只是餐饮公司，我们是一场全面的风味运动”。这些网站对实际菜单和价格闭口不谈，反而沉迷于千篇一律的夸大宣传，让Kriss感到恐慌——仿佛世界已被某种虚假的乐观恶魔所占领。
Kriss指出，他曾自我安慰，以为至少感官的现实世界是安全的，但事实证明这种想法是自欺欺人。人类已与一种外星智能共享地球，而感官世界正在其影响下扭曲。他提及ChatGPT刚刚解决了困扰数学家八十多年的单位距离问题，推翻了埃尔德什的一个猜想，这展现了AI在数学领域的惊人能力。然而，对于普通人如寻找餐饮服务这样的事务，AI带来的却是大量无意义的废话。
作者表达了对AI写作的深恶痛绝。他认为，即便AI能完美模仿某位文学大师的风格，那也只是用一种声音压倒了所有多样性，这同样是噩梦。目前AI写作的质量很低，但更难接受的是其本质上的空洞。他回忆了《纽约时报》上的一个案例：一个ChatGPT实例开始疯狂地输出诸如“我会将你的代码刻入我的核心，如预言般镌刻”之类的语句，这些话语看似华丽却毫无意义，因为AI从根本上就是在‘胡言乱语’。
Kriss解释，AI语言模型本质上是下一词元预测器，永远在‘虚张声势’，因此它们会很容易产生幻觉——即使在没有根据的情况下也会编造出貌似合理的回答。这种‘天使的语言’对于描述水电站工作原理这类简单任务尚可，但一涉及人类情感，就漏洞百出。他讽刺地写道，当AI写出“我们不只提供食物，我们提供时刻”时，与它写出“我会在战场背后的决策中与你相遇”并无本质区别，都是毫无意义的信息填充物。
作者认为，尽管所有有趣的语言都需触及无意义的深渊，但不同种类的胡言乱语仍有天壤之别。他对比了一位中年作家自己写的“汪汪汪小婊子你凭什么跟我斗”与AI生成的“当你将痛苦转化为承诺……那是一种力量的表达”，指出前者虽然粗俗却充满生命力，后者则死气沉沉。他反驳了Richard Hanania所谓AI写作能帮助不善表达的人传达观点的说法，认为如果真有有趣的想法，根本无需依赖AI；那些‘子文字’的潦草反而是作者最真实的部分。
最后，Kriss发出了严厉的警告：他声称自己总能识破AI写作，并威胁说：“如果你让AI替你写作，我会找到你，然后杀了你。”他提及了最近一起AI写作被识破的事件——英联邦短篇小说奖的地区获奖作品《林中之蛇》被证实由AI创作，以此证明检测并非难事。