控制感正在悄然流失

2018年，在互联网流量至上的狂热时期，人们逐渐意识到线上受众是多么容易被机器人和虚假信息操纵和欺骗。作家马克斯·里德（Max Read）曾提出一个关键概念——“逆变”。他认为，不仅机器人在互联网上泛滥成灾，它们甚至已经构成了互联网本身。机器人在数量上超过人类的同时，也在瓦解每个人对在线体验真实性的把握。里德写道：“互联网失去的并非‘真相’，而是信任——我们遇到的人和事物是否正如他们所展示的那样。”

如今，回看“逆变”概念，竟显得有些天真。自主AI代理在互联网上漫游，回复邮件、发送短信，偶尔还会删除整个公司的代码仓库。无止尽的聊天机器人语言充斥着每一次谷歌搜索，排挤了人类写的文字。机器人创作音乐和视频，炮制蹩脚的诗文，建设网站，做研究，进行交易，给你老板写冗长的备忘录，甚至解决几何猜想。这些AI输出又行驶在由黑箱算法控制的互联网轨道上。计算机与计算机对话，产生信息来训练计算机如何更像人类或更好地吸引人类。人类则只是输入、滚动、等待。

AI正以各种方式将人逼疯。其压倒性的速度和存在的紧迫感引发了普遍的烦躁和对该行业的敌意，更不用说实际的AI精神病案例了。但其中许多影响更为微妙——它加深了里德之前描述的那种令人困惑和腐蚀性的感觉。文化上，垃圾内容、AI网红、虚假账号和AI工具的泛滥正在模糊一个已经后真相时代的界限。空气中弥漫着一种特定的偏执，一种对被操纵、被欺骗、被影响的持续担忧。隐形营销活动、雇佣军机器人军队和付费剪辑师让任何看起来可疑的人或事都被视为潜在的“心理行动”。人类创意的廉价模仿比以往任何时候都更容易造假。情感，甚至人气，也更易被操纵。这一切之上，还有向代理式AI的推进——我们被告知，未来将是一个充满执行人类任务的机器人的互联网。

那些并未因这一切而感到赋权的人，正感到迷失。在文化的许多层面上，都弥漫着一种控制感正在悄然流失的情绪。你、我、所有人，无论我们是否喜欢或使用这些工具，都正在经历一场能动性危机。焦虑、偏执，甚至兴奋——对AI侵蚀工作、教育、艺术和文化的反应——都是人类在许多活动中滑向更被动角色的文化与技术时刻的副产品。生成式AI的繁荣，可视作硅谷强加给社会的一项大规模实验，其核心问题是：人类何用？

当你开始留意，你会看到能动性焦虑无处不在。它体现在对Meta等公司为AI转型而大规模裁员的反应中，体现在媒体报道那些风投支持的、批量内容创作的机器人军团初创公司，它们自豪地宣称“再也不需要支付人类薪水”。你可以从软件开发者感受到——他们依赖编码工具正在侵蚀自身技能；从高管那里听到——他们坦白不确定AI支出是否合理；或者当你读到报道说医学期刊充斥着伪造引文，一项研究表明使用聊天机器人正在降低我们的思考能力，谷歌宣布将提供替代传统基于链接的搜索结果：AI代理可以代您扫描网络，带回权威答案或发送个性化提醒。

这种不适正在实时上演。上周，文学杂志《Granta》发表了英联邦短篇小说奖获奖作品《蛇园之蛇》，怀疑的读者开始指出他们认为的聊天机器人文本迹象。很快，另外两位英联邦奖得主也受到类似审查，人们开始用AI检测器扫描文章片段。（英联邦基金会先发表声明称没有获奖者使用AI，但随后又发声明表示正在重新调查。）AI拥护者欢呼这是当前语言模型复杂性的例证；怀疑者则视之为垃圾内容的转折点。作家萨姆·克里斯在最近的一篇文章中描述了目前浏览网站的经历：“我越点击，越开始恐慌。没有人类的声音，只有成千上万种同一个欢快恶魔的版本。我是这里唯一的人吗？世界发生了什么事，一切都变得脆弱。”

AI写作的泛滥、检测的军备竞赛以及关于什么构成合理使用的辩论，都是这项技术带来的更大问题的一部分。将创造力外包意味着什么？我们还有多久能够辨别自己喜欢的东西是否由人类创作？我们的品味重要吗？如果不重要，那我们到底在做什么？

丝毫不令人惊讶的是，当硅谷正建造并热烈推广这些工具——能够在无人监督下完成复杂任务的自主代理——其最响亮的呼声却越来越沉迷于自身能动性的想法。在建设者圈子里，被认为“高能动性”的人位居顶端。他们个人主义、雄心勃勃、专注。他们只需行动。他们特别擅长调配人与机器的使用。言下之意，这些高能动性的人在充满不稳定的时代暂时不会变得可替代或无关紧要——暂时不会注定成为“永久底层阶级”的一部分，这是湾区另一个新词，指那些被抛在后面的后来者。听到这种话，谁能不感到一丝偏执？

AI公司使用“人在环路中”来描述人类与AI工具的关系，涵盖从聊天机器人到战争的一切。人类执行管理任务：提示、评估、批准、监控、纠正。在环路中听起来很积极，但真相是，在提示之外，人类更多时候是在对多个机器的交互做出反应。随着聊天机器人和AI辅助搜索将网络探索外包给语言模型，这种动态已成为人类与互联网互动的主要方式。在社交媒体信息流中筛选AI和人类生成的视频、图像、文本？你正被动消费算法与计算机生成内容之间的互动。这就是为什么沉迷手机和信息流会感觉如此剥夺和乏味，甚至麻木。

最近，网络文化研究员艾丹·沃克（Aidan Walker）令人印象深刻地描述了大部分互联网的用户体验：用户像是在无尽滚动中被戴绿帽子。长期以来，人们提出理论认为对算法的依赖以及机器人和虚假内容的泛滥导致互联网事实上已死亡。沃克的理论是，互联网并非“死亡”或“虚假”，而是模型和算法承担了网络上的大部分能动性。人在环路中只能坐着观看，在短视频上投票，每划一下给出反馈。这是一个悲观的愿景，也很难反驳。

在这种体系下，不难理解不信任如何产生，人们如何怀疑每一条被推送信息背后都有不可告人的动机。这真的是最好的无线音箱，还是我中了SEO垃圾内容的圈套？我不喜欢的乐队真的受欢迎吗？人气今天算什么？现实开始模糊。一切都变得脆弱。

AI公司和倡导者说着赋能的语言。从某种意义上说，他们没错——这些工具强大且很多情况下非常有用。但很难夸大这些工具如何逆转了早期奇特而狂野互联网的承诺：用户生成内容；偶然发现信息、人和社区；听到调制解调器另一端真人的噼啪声。2011年，作家保罗·福特（Paul Ford）将互联网描述为“客户服务媒介”，认为“人类有一种根本需求：被咨询、被参与，行使他们的知识（从而获得权力），以往没有任何媒介能如此有效地利用这一点。”福特描述的是用户生成内容网站如Reddit和维基百科背后的冲动，也是评论、点赞、回应帖子与视频的兴起，以及导致社交媒体崛起（在其变得如此算法化之前）的本能。

现在重读那篇文章，在当前的能动性危机中，我惊讶地发现硅谷可能将福特的话铭记在心，但造成了相反的结果。它建造了人类历史上最令人印象深刻的客户服务媒介——一个无限可扩展、高度个性化的答案机器，迎合我们的不安全感，模仿我们的怪癖。但这个系统自动化甚至否定了人类被咨询的需求。现在我们咨询聊天机器人，它们提供权威答案。生成式AI备受吹捧的效率也常常消除了协作的必要性。它解决问题，承担重活。因此，毫不奇怪，对AI的反弹——尤其是对数据中心的反对——以抗议和城乡议会上公众评论的形式出现。人们在少数能捍卫能动性的地方——物理世界——行动起来。

AI公司似乎完全忽略了这一点。对他们而言，只有信息（而非人性）对其模型有价值。这是不对的，但我们许多人，迷失在无尽信息漩涡中，会被哄骗信以为真。在新范式中，我们与其说是被咨询，不如说是负责向机器输入数据。我们表演自己的人类性，机器学习模仿我们。它的目标是在我们所做的任何事情上比我们做得更好。

AI行业开启了一个外包时代，对某些人来说不可抗拒，对另一些人则令人迷失方向。危在旦夕的不仅仅是真相或信任，还有我们所有人的方向感、定位感和目的感。“自己研究”成了互联网导致人们走上伊维菌素兜售者和披萨门阴谋论者之路的代名词。但它同样可以描述开放互联网所承诺的自主性的激动。当我们真正面对接下来会发生什么时，可能会怀念它：一个由模糊公司动机驱动的黑箱机器，直接告诉我们，“这是答案。”