AI的四大特性

Anthropic在其最新的教程中提出了AI的四大特性框架，帮助用户深入理解生成式AI的能力与局限。这四大特性分别是：下一个词预测、知识、工作记忆和可引导性。每个特性都赋予了AI独特的优势，同时也带来了固有的挑战。

下一个词预测

生成式AI的核心机制是下一个词预测。它通过逐词预测最可能的下一个词来生成答案，本质上是一种极其复杂的自动补全系统，而非搜索引擎。这一特性使得AI能够生成流畅自然的文本，快速综合大量信息，并在与训练数据相似的任务上表现优异。然而，它也导致了著名的“幻觉”问题——AI可能生成看似合理但实际错误的答案，尤其是在具体细节如姓名、日期、引用和统计数据方面。由于AI对自己的输出充满信心，用户很难区分事实与虚构。为了缓解这一问题，Claude提供了引用来源、约束生成以及生成-验证循环等功能，确保输出的准确性。

知识

AI的知识完全来源于其训练数据，并在知识截止日期后冻结。这意味着AI拥有极其广泛的通识知识，在训练数据覆盖充分的领域表现出色，甚至能跨领域建立意想不到的联系。但其知识存在明显的局限性：过时性（过去正确不代表现在正确）、对冷门或本地话题覆盖不均，以及“来源遗忘”——AI无法提供准确的引用。为了弥补这些不足，Claude集成了网络搜索、检索增强生成（RAG）和工具使用等功能，使其能够获取实时信息并验证事实。

工作记忆

AI的工作记忆被限制在一个固定大小的上下文窗口中。所有交互都发生在这个窗口内，因此AI能够快速适应用户提供的文档、数据和指令。但这一窗口有硬性长度限制——一旦超出，性能会急剧下降，而不是逐渐衰减。此外，位于窗口中间部分的信息容易被忽略（“迷失在中间”效应）。默认情况下，AI没有持久记忆，因此之前的更正不会延续到后续对话。Claude通过记忆功能、项目、上下文压缩以及文件附件等特性扩展了工作记忆，使AI能够处理更长、更复杂的任务。

可引导性

AI通过继续指令的模式而非理解意图来执行任务，因此具有很强的可引导性。用户可以通过系统提示精确控制输出的格式、风格、长度和语气，设置角色，并执行多步骤操作。然而，这种引导方式也存在风险：推理漂移（小错误在长链推理中累积）、重形轻意（指令被遵守但意图被误解），以及提示注入（上下文中的其他文本干扰指令）。Claude通过系统提示、扩展思考过程（visible thinking）和代码执行来增强可引导性，帮助用户更好地控制AI的行为。

总之，理解这四大特性是有效利用AI的关键。Anthropic还提供了免费的AI能力与局限课程，包含动手练习和真实案例，帮助用户在实际应用中识别并应对这些特性带来的挑战。