理解AI作为普通技术的指南
本文深入探讨了“AI作为普通技术”框架,对比了AI 2027观点,分析了AI扩散速度的常见误解,并讨论了AI采用过程中的实际挑战。
当我们在《AI作为普通技术》一文中提出这一框架时,其影响力超出了我们的预期。这篇文章迅速成为我们两人迄今为止最具影响力的作品。这促使我们将更多精力投入到思考AI的中期未来及其影响上,力求为这个容易引发猜测的话题提供扎实的分析。这一转变意味着我们的关注点从AI的当前和近期影响(这是AI Snake Oil项目的重点)转向了更长期的视角。为了反映这一变化,我们重新命名了本新闻通讯。我们已经发布了后续文章,并计划在2026年底完成一本书,于2027年出版。
本文旨在澄清关于《AI作为普通技术》的一些常见误解,使原文更易于理解,并与《AI 2027》进行对比。
“普通”并不意味着平凡或可预测
原文中,我们或许可以更明确地说明“普通”不是什么。我们的观点并非“没什么可看的,继续前进”。实际上,不可预测的社会效应是汽车、社交媒体等强大技术的标志。这些效应是技术与人类复杂互动的涌现结果,不能仅凭技术逻辑来预测。拒绝技术决定论是“普通技术”文章的核心前提之一。
以AI聊天机器人为例,我们已经看到了涌现的社会效应。AI伴侣的普及以及模型谄媚导致的一些有害影响(如“AI精神病”)令大多数观察者惊讶。另一方面,许多被广泛预测即将发生的风险(如AI被用于操纵选举)并未成为现实。未来3-5年内AI社会影响的图景——即使是基于当前能力的扩散,而非未来能力——谁也说不准。
技术能力的发展比社会影响更可预测。《AI 2027》的作者之一Daniel Kokotajlo曾在2021年因文章“2026年会是什么样子”而闻名。他对技术本身的预测惊人地准确,但社会影响的预测总体上方向不正确,他在与我们的播客讨论中慷慨地承认了这一点。
这一切使得AI对机构和政策制定者构成了更严峻的挑战,因为他们必须灵活应对不可预见的影响,而不是依赖虚假的预测安慰或试图防止所有伤害。总地来说,能够实现这种适应性的政策制定方法被称为韧性,这也是我们在文章中所倡导的。但虽然我们强调韧性是应对潜在灾难性风险的方法,我们应该更清楚地说明韧性在应对更广泛风险方面也具有重要作用。
重述我们的论点
如果我们要提取并简化论点的核心,大致如下:AI能力提升与社会影响之间存在一条长长的因果链。好处和风险在AI部署时实现,而非开发时。这给了我们(个人、组织、机构、政策制定者)许多塑造这些影响的杠杆点。因此,我们不必过于担心能力发展的速度;我们的努力应该更多地集中在部署阶段,既从实现AI利益的角度,也从应对风险的角度。这不仅适用于今天的AI,甚至适用于假设的自改进AI能力。AI系统能力的许多限制是(并且应该是)这些系统外部的,因此不能简单地通过让AI自行改进其技术设计来克服。
对GPT-5的失望?那可能误解了论点
值得注意的是,在GPT-5发布后,人们对我们的文章的兴趣激增。这很奇怪!如果一次产品更新就能改变人们对AI轨迹的看法,那么人们的证据基础有多可靠?普通技术框架预测缓慢时间线的理由不是因为能力会遇到瓶颈,而是因为即使能力继续快速进步,影响也会缓慢而渐进。因此,我们并不认为对新发布的失望应该让你更认同“AI作为普通技术”的观点。同样,明天宣布的新突破也不应让你更怀疑我们的观点。
理解GPT-5的最佳方式是,它是AI开发者从模型转向产品的一个特别好的例子,我们一年前就写过这一点。自动模型切换器对日常ChatGPT用户来说意义重大。事实证明,在“思考”模型发布近一年后,每天使用它们的用户不到1%,而GPT-5大幅提高了它们的使用率。
为什么AI的采用感觉不同
如果“快速扩散”的说法如此错误,为什么它如此普遍和持久?因为AI的采用感觉就像海啸,而PC、互联网或社交媒体从未有过这种感觉。当人们直觉上相信某件事时,他们对那些据称能证实这种感觉的数据或图表就会缺乏怀疑。我们承认这种感觉。我们自己对AI的亲身体验与过去的技术浪潮不同。起初,我们将其视为认知偏差:我们正在经历的改变感觉上会比过去成功适应的变化大得多。但现在我们意识到我们错了。认知偏差可能只是很小的一部分解释,但AI采用感觉更快速和可怕确实有真正的原因。简而言之,虽然部署不等于扩散,但在过去,渐进式部署意味着用户在一定程度上不必不断做出采用决策,而现在这个缓冲已经消失了。
以互联网采用为例:90年代采用拨号互联网的人会记得一个大致这样的故事。当我们第一次听说这项技术时,被PC的高价格吓退了。逐渐地价格下降。同时我们在工作或朋友家获得了一些上网经验。所以当我们几年后购买PC和拨号上网时,我们已经接受了一些训练。起初,拨号上网又慢又贵,网站也不多,所以我们用得不多。逐渐地价格下降,带宽改善,更多内容上线,我们学会了如何高效和安全地使用互联网。
而2020年代采用通用AI工具则是一种根本不同的体验,因为新能力的部署是即时的。人们必须花费更高比例的时间来评估是否为某个特定用例采用AI,并不断被告知如果不采用就会落后。我们之前的所有观点仍然成立——存在学习曲线,人类行为需要很长时间才能改变,组织变革甚至更慢。但不使用AI在某种程度上是一种主动选择,人们不再有借口不去考虑它。
结语
我们在一点上与AI助推者完全一致:AI不会消失,也不会成为大多数人可以忽略的像加密货币那样的小众。现在,对生成式AI的集体初始冲击已经消退,我们需要结构化的方式来思考AI的影响如何展开,而不是对每一项新技术能力或涌现的社会效应做出(过度)反应。AI作为普通技术框架——我们将继续在本通讯中阐述——就是这样一种方法。值得熟悉它,至少作为历史上基于技术的默认思考方式的阐述,可以用来与更例外主义的叙述进行比较。该框架对商业领袖、工人、学生、关注AI安全或AI伦理的人以及政策制定者等都有一定程度的可操作指导。我们希望您能跟随并参与讨论。