奥威尔论人工智能

乔治·奥威尔在1946年发表了一篇题为《文学的扼杀》的散文，这篇文章通常被认为是关于文学与极权主义不相容的论述。然而，文章结尾处，奥威尔提出了一个不同寻常的预测：他设想了一种能够自动生成故事的机器，无需人类干预。他描述了一个“传送带过程”，将人类创造力降至最低，生产出如同福特汽车一样的标准化产品。奥威尔指出，当时的电影、广播和低端新闻业已经显现出这种机械化趋势，并举例迪士尼电影的制作过程以及廉价杂志中利用模板和卡片生成情节的做法。他写道，这些机器生成的作品是“灵魂的缺失，是预制短语的装置”，并且“想象力——甚至意识——将尽可能从写作过程中消除”。但奥威尔将这种机械化的根本原因归咎于极权主义的崛起和自由主义的终结。他相信文学的死亡将由独裁者强加，过去的文学作品将被压制或重写。然而，现实却走向了另一条路。今天的书籍从未如此容易获取，但人们却主动选择了劣质内容。

五十五年后，B.R.迈尔斯在2001年的一篇评论中从消费端补充了奥威尔的分析。他批评当时备受推崇的作家（如奥斯特、德里罗、麦卡锡、普罗克斯等）的作品表面艰深实则空洞，创造了“深刻性的幻觉”。迈尔斯指出，这种散文表面上显得有难度但不需要集中注意力，听起来足够文学但缺乏实质，并且可以快速浏览而不会有什么损失，因为实际上没有什么可损失的。他的结论是，洞察的幻觉可以与洞察本身分开制造，而且大量受众，包括挑剔的评论家，都无法区分，或者根本不在乎。正如我之前所写，迈尔斯的论点表明，四分之一世纪前让表面上的深刻性受到评论家欢迎的东西，正是今天让大型语言模型写作受欢迎的东西。这意味着我们不能只指责机器而放过自己。在这两种情况下，冗长、含糊、虚假的深度都是固有的，因为洞察的幻觉才是关键；真正的理解会破坏这种幻觉，因此不受欢迎。

将两篇文章放在一起，我们看到了一个完整的图景：奥威尔诊断了废话的供应，迈尔斯诊断了需求。但奥威尔将机械化写作局限于廉价杂志和新闻业的“低端”，并理所当然地认为市场顶端由真正的才华主导，只有极权国家才能消除这种才华。而迈尔斯则发现，装配线在顶端运作，在那些获奖小说中，这些小说之所以被归类为严肃文学，恰恰是因为其散文风格华丽而模糊。奥威尔的预见性在机械化原因上存在失误。他认为极权主义的兴起和自由主义的崩溃将是扼杀文学的力量。他写道：“如果我们自文艺复兴以来所生活的自由文化真的走到尽头，文学艺术也将随之消亡。”文学的死亡将由独裁者强加。在极权主义的未来，“过去幸存的文学”将“不得不被压制或至少被精心重写”。然而，尽管书籍禁令在文化战争中仍然是一个棘手的话题，但没有人真正压制过去的文学。过去的书籍从未如此容易获得：奥威尔喜欢的所有小说都可以在一个可疑的俄罗斯网站上免费下载。书籍被保存、免费提供，却被忽视。正如乐队Rage Against the Machine所说：“他们不必烧书，他们只需移除它们。”事实证明，他们甚至不需要这样做。

奇怪的是，奥威尔起初有正确的答案，但后来却退缩了。在文章的第二段，他指出了知识自由的两个敌人：“理论上的敌人，极权主义的辩护者，以及直接的、实际的敌人，垄断和官僚主义。”第二类包括报业大亨、电影巨头，以及每个作家为了生计而不得不做的雇佣写作：奥威尔称之为“模糊的经济力量”，侵蚀着艺术家的独立和生计。但随后，他迅速将“实际敌人”搁置一旁，专注于他在头脑中最关注的意识形态上的极权主义威胁。他在接下来的两年里在朱拉岛撰写关于另一个敌人的小说。然而，市场的机械化拉力，奥威尔将其视为更大灾难背景下的一个麻烦，结果却成了真正的灾难。他假设大规模生产的废话将源于被禁止的替代品，读者必须在枪口下被驱赶到传送带前。而我们却自愿奔向它。在某种程度上，我们现在面临的结果比奥威尔想象的更黑暗。文学的衰落不需要一个“老大哥”来监禁作者。一个压制书籍的政权至少相信它们的力量，审查者的关注是对那种力量的致敬。但今天，不是独裁者，而是广泛的社会和技术力量正在将人们推向废话。这种分散的转变可能比自上而下的禁令更难逆转。奥威尔认为民主的死亡会扼杀阅读，而事实证明，阅读的死亡可能正在扼杀民主。