通过人工智能扩展人类智能

现代AI系统能够撰写文章、生成代码、总结复杂思想，并进行流畅的对话。然而，这些系统在人类直观的任务上仍然挣扎，例如可靠地跟踪物体变化、在陌生情境中进行组合推理，或区分真相与虚构。这些矛盾引发了关于AI的极化争论：一些人将其视为早期类人智能，另一些则贬低为高级自动补全。

在最近的跨学科研究中，一种不同的观点正在浮现。研究者不再询问AI系统是否正在变得像人类一样智能，而是提出一个更基本的问题：如果AI系统之所以有效，是因为它们依赖于根植于人类认知的结构呢？这种视角转变，借鉴了埃德蒙德·胡塞尔的现象学，有助于理解现代AI的能力与边界。

在我们的新论文《自然智能中的人工智能起源》中，我们主张现代AI系统既不应被理解为人脑，也不应被视为琐碎的统计技巧。相反，它们扩展了起源于人类认知自身的结构。语言已经包含了人类理解的沉淀结构——AI系统学习建模并扩展这些结构。这一视角解释了当代AI的能力与边界。

人类感知并非被动接收感官数据。我们将世界体验为通过变化展开的稳定事物：当我们移动时，杯子仍然是同一个杯子；即使个别音符消逝，旋律仍然可识别。语言通过以概念形式表达这些稳定结构而出现。“红色”、“圆形”或“大于”等词汇表达了源于生活体验的关系。

大型语言模型在这一语言世界中学习统计关系。它们捕捉概念如何在大量人类写作中相互关联。这解释了为什么AI系统能在多个领域产生连贯的回答。但这也解释了为什么它们会产生幻觉。人类始终对世界负责：经验不断修正我们的期望和信念。相比之下，AI系统只扩展文本内部的模式。它们能流畅地延续推理线索，但缺乏与世界的有生命接触，而正是这种接触锚定了意义和真理。

AI扩展人类认知

这一框架有助于理解AI研究中几个反复出现的挑战。一个是“组合性差距”——语言模型在熟悉的推理模式上表现良好，但当需要以真正新颖的方式组合概念时却失败。研究表明，更大模型在流畅性和事实回忆上提升迅速，但在真正的组合推理上进展缓慢。从我们的视角看，这不仅是工程限制，更是结构性边界：AI系统能扩展语言中已沉淀的模式，但缺乏世界导向的理解，无法生成真正新颖的概念关系。

类似模式出现在结合语言和视觉的多模态系统中。这些系统能正确标记图像，但在关于物体及其部分的稳健推理上仍然失败。它们学习视觉模式与语言之间的相关性，而不是像人类那样感知随时间展开的稳定物体。结果就是系统看似惊人地流畅，但在熟悉模式之外却出奇地脆弱。

这一视角也重新框定了关于AI安全的讨论。公众讨论常在“失控超级智能”的恐惧与AI无关紧要的主张之间摇摆。我们的研究表明，两种极端都误解了当前系统的本质。最直接的风险并非源于AI拥有类人意图，而是因为它能在没有对世界反思责任的情况下扩展推理模式。系统能生成有说服力但无根据的输出，大规模自动化有缺陷的决策，或在治理不善的环境中执行有害行为。

这解释了为何AI安全正从模型安全转向系统安全。实践中，组织已依赖分层保障措施——业界称为“缰绳”——来约束、验证和监控AI行为。我们的论文认为，这些机制并非临时补丁，而是反映了AI架构的根本性质：可信行为源于AI系统构建者的工作，他们对其行为负责，这一责任不能委托或分享给模型。

这一解释与企业在可信AI部署上的方法高度一致。组织需要能够扩展人类智能，同时保持可治理、可审计和人类监督的系统。理解AI作为一种派生智能，阐明了为何分层治理、评估和运营控制如此重要。

展望未来，我们认为现象学不仅提供了对AI的批判，更提供了理解其承诺的框架。AI系统揭示了人类认知本身的深刻之处：意义可以以强大新方式被形式化、扩展和规模化。因此，AI的核心社会风险是踢开其源于人类经验和认知的梯子——将AI误解为削弱人性的竞争智能，从而削弱AI本身的真正承诺。

问题不在于AI是否会取代人类智能。而在于我们如何负责任地构建既扩展人类理解，又始终扎根于产生这种理解的世界之中的系统。如果我们误将AI系统当作自主思维，我们可能过度信任它们。如果我们将其贬为琐碎技巧，我们可能忽视我们这个时代最重要的技术发展之一。一个更扎实的解释同时承认两个真相：AI是人类智能的真正延伸——正因为如此，人类仍然对其如何被理解、治理和使用负有责任。