为何你的AI能写小说却数不到五十

我们正生活在一个奇怪的技术悖论中。我们建造的机器能通过律师资格考试、诊断罕见疾病、在几秒内重构数千行遗留代码——但这些数字巨人在统计一个单词列表这样简单的任务上却经常绊倒。如果你让一个尖端的LLM总结一个包含上千行调查回复的电子表格，它可能提供深刻的分析，同时却把实际受访人数凭空编造出来。

这不仅仅是矩阵中的小故障；它揭示了现代软件架构如何从过去的确定性转向了概率性的未来。在幕后，AI“计数”的方式与传统数据库或人脑完全不同。这种期望与性能之间的差距催生了一个新研究领域：数据处理任务中幻觉的定量分析。

计数的简单假象：在日常用语中，计数感觉是最基本的数字劳动。我们认为因为计算机本质上是高级计算器，数值准确性是理所当然的。然而，LLM不是计算器；它们是复杂的预测引擎。当你向Gemini 3 Flash或GPT-5.3 Instant这样的模型提供一长串“是/否/待定”响应并要求总数时，模型不会在循环中递增变量。它通过注意力机制处理整个文本，试图在其内部神经路径中维持计数的“状态”。

从用户角度看，体验往往令人沮丧。你可能会注意到AI助手在开头几行正确，但在第400行左右就丢失了位置。研究人员称之为内部注意力限制。矛盾的是，模型越会话式和“人性化”，就越容易出现同样的认知失误。

幻觉的新分类：Mirairzu Lab Kobo最近的探索性研究发现了一个有趣的转变：不同模型在这些任务中失败的方式不同。LLM不只是“犯错”；它们表现出反映不同类型软件摩擦的独特行为模式。

首先是虚构型，以Gemini 3 Flash为代表。在基线测试中，Gemini表现出所谓的“和谐幻觉”。它可能高估一个类别而低估另一个类别，确保最终总数在数学上完美，即使分布完全是捏造的。同时，我们看到回避型，如GPT-5.3 Instant——当处理负载超过一定阈值时，软件直接放弃，返回礼貌的“我无法计数这么多项”。

最后是过程不透明型，常见于Claude Sonnet 4.6。Claude即使面对2000个项目也相当准确，但其方法仍是一个黑箱。从开发者角度看，这是双刃剑：你得到正确答案，但无法知道模型何时或为何最终达到“崩溃点”。

传统提示的失败：历史上，科技行业对AI不准确的回答是“思维链”（CoT）提示——简单的“一步步思考”指令。但随着软件日益复杂，这个一度普遍的解决方案显示出技术债务的迹象。在Mirairzu Lab实验中，仅对ChatGPT应用CoT实际上适得其反。当要求写出对200个数据集的推理时，模型准确率反而下降。它必须生成的额外词语充当了处理噪声，分散了模型主要任务的注意力。

外部支架：设计KIS协议：如果简单提示失败，行业正在转向更健壮的专有协议。其中一个框架是知识创新系统（KIS），它充当AI的“外部支架”。KIS不依赖模型内部记忆，而是迫使AI将中间步骤外部化为结构化日志。

本质上，KIS将LLM视为更大机器中的一个组件，而不是全知的预言机。通过强制实施“Level 4 / Logic: Strict”协议，系统分离了计数阶段、验证阶段和报告阶段。这种结构约束像一个数字蓝图，确保模型在验证前一步之前不能进入下一步。

在幕后，这种方法解决了“和谐幻觉”问题。当Gemini通过KIS协议运行时，其准确率跃升至100%。模型不被允许猜测可能的分布；它必须提供可作为可验证审计轨迹的“log: full”输出。

从准确性到可审计性：范式转变：放眼行业层面，这项研究凸显了评判软件方式的深刻转变。多年来，黄金标准一直是准确性——应用是否给出正确答案？但随着我们将AI整合到法律、金融和医疗工作流中，仅靠准确性已经不够。我们正在进入可审计性时代。

正如Claude的表现所示，一个“通常正确”的模型如果不知道正确的原因，就是一项负担。如果人类审计员无法追踪从原始数据到最终总数的路径，软件仍存在风险。像KIS这样的协议代表了网络发展的下一阶段：从早期聊天机器人碎片化的、基于“感觉”的输出，转向更有弹性、更透明的架构，其中过程与结果同等重要。

重新夺取数字蓝图：最终，我们与技术的关系取决于我们愿意将多少“如何运作”外包出去。当我们使用LLM来计数、总结或分析时，我们是用传统代码的机械确定性换取神经网络敏捷的直觉。

对于普通用户，结论是实用的：不要假设模型的流畅性是其计算能力的代理。下次让AI帮忙处理数据密集型任务时，寻找“支架”。模型是否展示其工作过程？是否提供步骤日志？如果不，你面对的是一个可能为了保持对话流畅而编造数字的黑箱。

在我们在软件设计的无声转变中导航时，最重要的技能是培养对透明度的“用户体验眼”。我们应该要求不仅给出答案，而且提供证明答案所需的审计轨迹。在一个充满和谐幻觉的世界里，软件能提供的最具颠覆性的功能就是简单、谦逊的可验证日志。