人工智能作为社会技术

人工智能作为社会技术

在关于人工智能的辩论中，许多讨论仍深受上世纪90年代科幻小说中“奇点”概念的影响。文章指出，这一源自科幻的叙事——即人工智能将迅速超越人类智能，成为拥有自身利益和目标的超级智能——实际上掩盖了技术发展的真实复杂性。作者认为，大型语言模型（LLM）并非通往通用人工智能的“贤者之石”，而是一种社会技术，类似于图书馆、语言、市场和官僚机构，其核心功能是重组人与人之间的社会关系。

LLM通过处理人类语言的大型数据集，生成类似人类话语的文本，从而在用户和训练数据的作者之间建立起一种机械中介的社会关系。这种关系并非全新的现象，而是现代社会生活中常见的中介关系的一种延伸。然而，这种中介的幻觉常常使用户误以为他们只与机器互动，而忽略了背后大量人类作者的贡献。作者强调，理解这一机制至关重要，因为它打破了关于人工智能具有自主意识和意图的神话。

作者将人工智能置于“漫长的工业革命”的历史背景中，这场革命始于两百年前，至今仍在持续。与奇点理论所设想的急剧变革不同，工业革命的历史表明，技术变革往往是混乱、多样且不可预测的。同样，人工智能的社会影响也不会是单一的、决定性的转变，而是会在与现有社会技术（如官僚制、市场和民主）的碰撞中产生复杂的结果。

文章特别借鉴了赫伯特·西蒙的“人工科学”思想。西蒙认为，人工智能、经济、行政和政治系统都是“复杂信息处理”的形式，它们通过将复杂的现实简化为可处理的“粗粒化”（coarse-grainings）来运作。官僚制就是这种粗粒化的典型例子：它将复杂的社会关系简化为规则和类别，以便进行大规模协调。人工智能作为一种新的粗粒化技术，正在与这些旧有的抽象系统相互作用，可能加强、重塑或取代它们。

作者警告说，关于通用人工智能即将到来的预言正在影响实际政策，例如美国特朗普政府大幅削减行政机构的行动。这些行动基于对人工智能能力的过度乐观，忽视了真正需要关注的复杂社会问题。相反，我们应该将人工智能视为一种新的社会技术，它将缓解一些问题，加剧另一些问题，并产生全新的挑战。为了理解这些后果，社会科学与计算机科学之间的合作变得前所未有的紧迫。

总之，文章呼吁摒弃奇点神话，以更实际、更细致的方式研究人工智能对社会的影响。人工智能不是万能的炼金术，而是人类漫长技术演进中的最新一环。只有通过跨学科的努力，我们才能应对它带来的机遇和挑战。