AI是终极的泄漏抽象

在计算机科学中，抽象是一种承诺：你无需了解其内部实现。当你向AI模型请求一个函数、一份摘要或一项架构设计时，得到的输出同样是这种承诺——流畅的文字、可编译的代码，表面充满专业感。然而，正如本文所指出的，AI抽象最终会泄漏，且泄漏的方式与传统抽象截然不同。

传统抽象泄漏时，用户可以向下追溯：编译器的输出可以反汇编，查询计划可以用一条命令解释，网络堆栈可以逐包嗅探。这些底层虽然复杂，但是可读、确定且存在。当TCP连接因光纤断裂而失效时，工程师能通过抓包来分析重传，逐步重建系统行为。而AI抽象的內部并非精密的确定性工程，而是一个概率性的潜在空间，从参数到token的路径无法被用户追踪。没有中间步骤可检查，没有逻辑过程可回放，泄漏发生后，用户只能事后重建模型从未有过的思维模型，而这正是生成时节省的时间所需偿还的债务。

文章通过生动的类比来解释这一模式：相机的自动模式是一个方便的抽象，它隐藏了光圈、快门速度和ISO的复杂平衡。在大多数场景下它工作完美，但当你试图在昏暗的房间里拍摄孩子吹生日蜡烛时，它就会失败——照片模糊，而唯一的挽救方法是手动调整，理解你之前一直忽略的曝光三角。同样，汽车每天早晨都能启动，让你从不想电池，直到寒流袭来无法启动，此时你必须立即掌握电池的知识。这些例子说明，抽象在泄漏时会要求你立即支付它一直让你省去的理解。

作者引用了Joel Spolsky在2002年提出的“泄漏抽象定律”：所有非平凡的抽象都在某种程度上泄漏。TCP承诺可靠的字节流，但隐藏了丢包、重传和三次握手。当光缆被挖断时，可靠流变得不可靠，你必须深入抓包调试，面对本不该看到的网络层。抽象工作时节省了时间，但从未免除你理解其底层原理的义务。账单在泄漏时到期，而泄漏要求支付的货币是理解——在压力下迅速构建底层模型。

将生成式AI置于这个堆栈之上，它完全是另一种层。当你要求模型编写函数、总结合同或提出架构时，返回的是对一种从未展示的推理过程的抽象。提示输入后，数十亿参数的概率分布内部进行某种运算，然后输出流畅的散文或可编译的代码。表面看起来具有专业质感，但输出是一个接口，承诺你无需知道底层发生了什么就能使用它。传统抽象的泄漏之所以可应对，是因为底层是可检查的：你可以逐层下降，逐步重建系统行为。而AI模型的内部不是精密的确定性工程，而是概率性的潜在空间，参数到token的路径不可追踪。没有中间步骤，没有推理日志，只有从分布中抽取的样本。当这个抽象泄漏时，你无法像TCP那样深入模型内部，泄漏出现在你没写的工件上，由你无法重放的推理产生。恢复的唯一方法是事后重构模型从未有过的思维模型，诊断时你需偿还生成时节省的时间，且利息在风险最高处最重，因为那里的泄漏最安静。

作者用一个具体的并发代码例子说明了静默泄漏。假设你要求模型编写一个跨线程共享的计数器，用于显示工作进度。模型返回的代码干净、带注释、编译通过，在测试中没问题。但它95%正确，缺失的5%是一个竞态条件：读-修改-写操作不是原子的，两个线程可能同时读取同一值，各加一，写回同一结果，导致少计数一个任务。在测试低负载下几乎不会冲突，但在生产环境数百个线程每秒数千次访问时，冲突变得频繁，仪表盘数字悄悄偏离真实值。没有崩溃，没有异常，没有测试失败，直到有人发现数字不对并开始排查——而生成的代码毫无帮助。这是泄漏的纯粹形式：抽象没有像幻觉API或语法错误那样大声失败，而是在外观与行为之间的缝隙中静默失败，生成时让你跳过的理解（内存排序、原子性、时间复杂性）正是恢复所需的。

同样，AI生成的摘要也会以相同方式泄漏，但影响更广。要求模型压缩长技术文档、供应商合同或事后分析报告，会得到流畅、有条理、权威的输出。但摘要本质上是压缩，模型通过统计显著性决定丢弃什么，而不是知道哪些条款是关键。低频但高后果的细节——在特定条件下使保修失效的例外、打破整洁叙事的关键句——正是流畅优化系统最可能平滑掉的部分。摘要看起来不完整，因为不完整没有纹理，你把它当作完整的来行动，直到被遗漏的警告以意外形式出现。

文章引用统计学家George Box的名言：“所有模型都是错误的，但有些是有用的。”AI生成答案就是这个意义上的模型，一种有损压缩的替代品，因其丢弃而有用，也因其丢弃而危险。McLuhan的“媒介即信息”进一步指出，通信系统的形式比内容更能重塑使用者。AI答案的形式是“答案移除其推导过程”，以这种形式获取知识的文明会被慢慢训练成只关注表面，接受结论而失去追问基础的习惯。

最终，文章强调，认识到AI是泄漏抽象并非懒惰的借口，而是要求更严格标准的理由。泄漏无法避免，但通过理解抽象堆叠的本质，在依赖AI的同时保留必要的底层知识，我们才能在泄漏发生时具备应对能力。