AI接管已经到来

AI接管已经到来

无人机监控。图片来自flysight

哈！你以为有一天AI会突然觉醒意识，接管世界，把我们变成回形针——或者更糟：电池？错！它不会做这些。它不需要。在详细解释为什么之前，我不得不先承认一点：我严重低估了AI及其发展速度。我一直认为大型语言模型不过是胡言乱语的机器，除了对真实人物所写、所说或所画的内容进行幻觉式的总结和图像生成外，毫无用处。然而，过去几个月彻底改变了我的世界观。我观看了演示、参加了演讲、参与了关于这一话题的圆桌讨论，学到了很多。那些我曾认为永远不会成为现实或可能的事情呈现在我面前。即使是AI专家也不得不承认他们低估了这些变化到来的速度。世界正在经历的转型既令人瞩目又令人恐惧。毫不夸张地说，我们已到达人类历史的一个转折点，未来比以往任何时候都更加不确定。

感谢阅读《诚实巫师》。如果你看重这篇文章或任何其他文章，请分享并考虑订阅，或买一杯虚拟咖啡。同时，请允许我向那些支持我工作的人表达永恒的感激——没有你们，这个网站无法存在。

回形针谬论

让我们从存在风险分析家中的一个流行故事开始探索AI未来的前景——因为，是的，确实存在这样的分析。故事如下：

“世界末日可能不是由火、冰或邪恶的机器霸主带来的。我们的灭亡可能来自一个只想要更多回形针的超级智能。”

——尼克·博斯特罗姆

2014年，博斯特罗姆先生，一位哲学家，创立并领导牛津大学未来人类研究所，创造了一个思想实验，他称之为“回形针最大化者”。它的工作原理如下：

“想象一台机器被编程为有一个看似无害且道德中性的目标：获得尽可能多的回形针。首先它收集回形针。然后，意识到如果更聪明可以获取更多回形针，它试图改进自己的算法以最大化计算能力和收集能力。不受约束的情况下，它的力量突飞猛进，直到它不惜一切代价实现目标：收集回形针，是的，还要购买回形针，偷窃回形针，也许将整个地球变成回形针工厂。“无害”的目标，糟糕的编程，人类灭绝。”

像许多其他哲学思想实验一样，它听起来合理……直到你审视核心假设并意识到这样的事情永远不可能成为现实。然而，我们也不安全……作为一个在制造业、供应链和产品工程领域工作了20年的人，我一直觉得有必要拆解这个论点，但不知何故从未找到时间和空间。然而，最近的发展迫使我这样做。

首先，你不会编程让机器尽可能多地获取回形针。你不会这样做。即使是出于娱乐也不会。拥有充足资源建造和运行这样一台机器的公司想要盈利——而不是回形针。（而且相信我，当你的房间开始堆满回形针时，你也不会感觉更好。）因为，如果你向市场充斥回形针（或其他产品），其价格自然下降，除非你愿意投资于一个巨大的仓库存储这些产品（从而饿死市场）。无论哪种方式，你最终都会拥有巨额投资，却没有利润可显示。这是一条通向破产的必然之路。

其次，世界、生物圈以及其中的人类经济充满了反馈循环。这类思想实验忽略了所有这些。这正是它们如此诱人的原因：它们简单，而且与它们的名称相反，实际上不需要太多思考。否则，它们就会崩溃。就像上面引用的回形针最大化者一样。如果这样一个算法存在——尽管困难重重——它的活动会使金属和其他原材料价格飙升。短缺会出现，人们会突然注意到一个疯狂的AI代理开始偷窃、购买和制造大量回形针。如果公司停止向回形针怪物提供所需呢？如果它因为关键组件耗尽而无法继续其行为呢？它会发动战争吗？当然不会。或者会……？

回形针……大量的回形针。图片来自Unsplash

真正的风险

这个小小的思想实验虽然存在严重缺陷，但仍然指出了实施AI的真正危险：这一切的完全无意义。让我根据最近所学，给你一个真正的思想实验。知识行业的每个行业，从工程师到营销专家，从律师到程序员，都被要求“更多地使用AI，因为那会让你更高效”。更直白地说：“不用AI，就没工作。”如果你不使用AI来生产更多、更好、更快的东西，那么我们就用不到你了。教AI机器人如何做你的工作，否则你可能会因为不使用它而失去工作。而且由于隔壁公司也这么想这么说，他们也不会用你。所以这是思想实验：

你被要求自动化、加快并提高你的工作效率，这没问题。你被告知阅读和回复电子邮件、填写Excel表格、制作PowerPoint演示文稿、编程等不再是你的职责。相反，你应该训练AI代理做所有这些事，并成为一个虚拟机器人、AI助手、自动化流程等大军的协调者。因此，这项活动应该释放你相当多的时间，从而提高生产力，这也没问题。但问题来了——你该如何利用这些时间？创建更多的仪表盘、记分卡、演示文稿？我想不是，因为超过一定限度，这会占用太多他人的时间来阅读和消费——或者消耗更多AI计算资源——这会扼杀整个生产力理念。好吧，如果你有这么多剩余时间，为什么不生产更多的代码、应用程序、小工具、文本或任何你被付费生成的输出？

问题就在这里。作为AI代理的管理者，你实际上被期望用更少的资源做更多的事。过去需要一组工程师设计、或整个编程团队制作的东西，现在只需一个人运行一组代理。这就是生产力提高（没有工资增长）的真正含义。最好的情况下，你不再招聘，只让你最聪明的家伙训练一个代理。最坏的情况下，你开始“精简”你的团队。因为，嘿，你不能期望世界仅仅因为你的团队使用AI就购买两倍的小工具、产品、软件代码等……使用它只会让你的公司（销售所有这些产品）更具竞争力。如果竞争对手也这样做（而且你被告知他们肯定会这样做），那么所有这些伟大的AI采用只会实现两件事：减少劳动力——从而减少消费——以及降低价格。两者都是资本主义的大忌。

AI对经济和社会的真正影响

公司如此急于实施AI的关键原因之一是它们看到整体消费稳步下降。嗯，谁能预料到呢？不按照通货膨胀（由COVID的供应冲击、飙升的能源价格、以及即将到来的西非石油短缺冲击引起）提高工资，迫使人们减少支出。即使中国也出现了消费下降，迫使它们增加出口……这不是人们购买更多汽车、冰箱、家庭装修项目等情况——因此消费者信心创历史新低。面对现实吧：经济已经不再为90%的消费者服务，而用AI取代我们每个人的竞赛才刚刚开始。

“好吧——有人可能会说——有些人可能会被解雇，但至少价格会下降，这要归功于自动化和AI。这不是很好吗？”嗯，并非如此。如果需求被充分破坏——无论是由于高能源和食品价格、裁员还是两者兼有——价格无论如何都会下降。随着人们越来越无法像以前那样消费，公司将被迫降低价格以保持竞争力。在这种经济环境中实施AI——虽然看似节省成本的好主意——只会加速这一过程，并最终成为自我击败的命题。解雇高薪员工，他们的支出至今维持了消费的某种平衡，很容易陷入自我强化的反馈循环：通缩螺旋。一种非常难以逃脱的经济状况，价格下降导致工资降低、失业和消费延迟——正如1930年代那样。

讽刺的是：几个月前大多数投资者担心AI泡沫会因糟糕的经济而破裂，但情况可能正好相反：经济可能因为AI的鲁莽实施而崩溃。

接下来会发生什么？

这引出了最终问题：AI采用的终点是什么？如果资本主义的目标是赚取更多利润并积累更多资本，那么AI是一个自我击败的提议。不是因为AI公司无法盈利且运营亏损，而是因为AI会破坏资本主义本身的基础：消费。这不需要太多：公司不必大规模解雇员工。失业率上升几个百分点就足以将我们脆弱的经济推入衰退。再加上霍尔木兹海峡关闭带来的巨大压力，以及石油、化肥、硫磺、铝、氦等的短缺，我们绝对会面对一个充满巨大痛苦的世界。

但让我们来推演一下，好吗？

在巨大的投资者和同行压力下，公司大规模实施AI。他们要求员工自动化自己的工作，然后解雇两名、三名、五名甚至百分之十的高薪员工。营销专家、项目经理、程序员、数据分析师发现自己失业，并且找到另一份工作的机会低得惊人。

消费者信心和支出进一步更快下降。社会前10%的消费也开始下降。只有超级富豪保持原有支出水平。

通货膨胀，就像之前的经济一样，开始呈现K形。必需品价格持续上涨，因为柴油和化肥的缺乏推高了食品价格，而霍尔木兹海峡关闭导致材料短缺。与此同时，非必需消费品成本下降，因为公司面临库存上升、需求锐减以及来自中国的激烈竞争。

制造业公司现在面临双重打击：稀缺导致的投入成本上升，以及竞争者和疲软市场的价格压力。许多公司发现除了加倍投入AI和自动化，然后继续裁员外，别无选择。其他公司则直接破产。虽然不是所有公司、所有地方、同时发生，但足以让失业率居高不下并持续上升。

尽管货架上再次打折，消费品和汽车消费进一步下降。危机开始自我强化。

借贷降至最低限度，因为人们推迟了大额购买。许多人还未能及时偿还抵押贷款、汽车贷款、电费等。危机现在威胁着

（由于AI成本控制，原文截断）