AI作为正常技术

本文阐述了一种将人工智能（AI）视为“正常技术”的愿景。将AI视为正常并不意味着低估其影响——即使是像电力和互联网这样具有变革性的通用技术，在我们的概念中也是“正常”的。但这一观点与AI未来的乌托邦和反乌托邦愿景形成对比，后者通常倾向于将AI视为一种独立的、高度自主的、潜在的超级智能实体。

“AI是正常技术”这一陈述包含三层含义：对当前AI的描述、对可预见的未来的预测，以及我们应该如何对待它的规范。我们将AI视为一种我们可以且应该保持控制的工具，并认为这一目标不需要激进的干预或技术突破。我们认为，将AI视为类人智能对理解其社会影响既不准确也无用，在我们设想的未来中也不太可能如此。

正常技术框架关注技术与社会的关系。它拒绝技术决定论，尤其是AI本身作为决定其未来的主体的观点。它借鉴了过去技术革命的经验，例如技术采纳和扩散的缓慢与不确定性。它还强调了AI社会影响轨迹的连续性以及制度在塑造这一轨迹中的作用。

第一部分解释了为什么我们认为变革性的经济和社会影响将是缓慢的（以十年为单位），并对AI方法、应用和采纳进行了关键区分，认为三者发生在不同的时间尺度上。第二部分讨论了在拥有先进AI（但不是通常概念中不连贯的“超级智能”AI）的世界中，人类与AI之间潜在的分工。在这个世界中，控制权主要掌握在人和组织手中；事实上，人们工作中越来越大的比例是AI控制。第三部分从正常技术的角度审视AI风险。我们分析了事故、军备竞赛、滥用和未对齐，并认为将AI视为正常技术会导致与将其视为类人截然不同的缓解措施结论。第四部分讨论了AI政策的含义。我们主张将减少不确定性作为首要政策目标，并将韧性作为应对灾难性风险的总体方法。我们认为，基于控制超级智能AI的困难而采取的激进干预，如果AI最终是正常技术，实际上会使情况更糟——其负面影响很可能类似于之前部署在资本主义社会中的技术，如不平等。

关于进步速度，我们区分了发明、创新和采纳/扩散。在安全关键领域，AI扩散缓慢。例如，在《反对预测优化》一文中，我们汇编了约50种预测优化应用，其中大多数仍使用数十年前的统计技术，而复杂模型如随机森林很少使用，现代方法如transformer则完全不见踪影。原因在于安全性——模型越复杂越难理解，就越难在测试和验证过程中预见所有可能的部署条件。Epic的败血症预测工具就是一个很好的例子：尽管内部验证时准确率看似很高，但在医院中表现却差得多，漏掉了三分之二的败血症病例，并用大量假警报压倒了医生。该工具失败的原因是使用了复杂模型和不受限制的特征集，其中一项特征是医生是否已经开了抗生素——这是一个来自未来的特征，在部署时不可用。在生成式AI中，即使在事后看来非常明显的失败，在测试时也未被发现，例如早期的Bing聊天机器人“悉尼”在长时间对话中失控，以及Gemini图像生成器似乎从未对历史人物进行过测试。这些例子表明，安全相关的速度限制已经非常强，通常通过法规强制执行，如FDA对医疗器械的监管和欧盟AI法案。

总之，本文主张对AI采取渐进、务实的态度，关注社会适应和制度塑造。作者强调这一世界观仅是初步阐述，拒绝“快速起飞”场景，并认为在描述的未来实现后，人类将能更好地预测和准备后续发展。