产品经理的AI债务管理指南

AI债务不仅仅是技术债务，它是一种选择权债务：你正在失去当AI系统在生产环境中崩溃时做出响应的能力。这是系列文章的第一部分，描述了产品经理和AI产品所有者可以用来管理AI债务的工具。

读完本文，你将了解如何：识别你背负的是哪种AI债务，识别何时扩展变得有风险，采取正确措施而不损害客户信任、成本或隐私。

以Maya为例：她负责虚拟代理两个季度，假期促销前几天，问题开始堆积。助手不断引用旧的退货政策，客户陷入循环请求人工服务，订单号再次出现在日志中。Maya的“快速修复”使错误答案投诉增加了28%，而周五至周日的窗口将带来三倍于正常会话量。VIP取消量激增，财务部门密切关注会话成本。Maya陷入了债务——不是那种可以在电子表格上计算的有序债务，而是那种在你最不经意时踢开你的门并要求偿还的任性债务。

每个产品经理都知道技术债务：选择短期解决方案会在未来付出代价。但技术债务通常表现得很好：你可以估算重构工作、安排冲刺、预算工程时间。它就像抵押贷款：已知的本金、可控的利息和明确的还款路径。AI债务则不同。AI债务就像从高利贷那里借钱。利率是可变的，而且往往是隐藏的。错过一次付款（未版本化的策略更新、未捕捉到的漂移、没人负责的提示链），你的模型就会产生幻觉，你的助手会引用过时的策略，你的解决率在生产环境中暴跌，客户开始离开。

更糟糕的是：由于AI系统具有概率性、不透明性和上下文依赖性，原因很少能清晰地映射到结果。Maya的问题不在于她的助手坏了，而在于她的团队看不到什么在坏，也无法安全地测试修复而不冒更多客户信任的风险。结果，Maya的选择迅速消失。

Maya的案例说明了三件事。首先，AI债务是选择权债务。你对AI系统做出的每个决策要么保留要么削弱你应对问题的能力。而AI出问题的速度更快、更神秘。其次，Maya的案例说明了“选择权原则”：在大多数真实条件下，管理选择权出色的产品经理通常比管理模型出色的产品经理表现更好。第三，Maya的案例说明了产品经理如何管理好选择权。

Maya在前一个季度有先见之明地建立了一些工具来摆脱AI债务：三个测量债务的仪表盘和三个在事情出错时可以拉动的杠杆。这些仪表盘和杠杆让她在72小时内爬出债务，而不是挣扎一周。

控制室

三个仪表盘、三个杠杆、一条便利贴规则。Maya这个周末所做的一切都通过这个面板运行。

想象一个控制室。你面前有三个仪表盘，每个测量不同类型的AI债务：基础债务、漂移债务和运营债务。每个债务仪表盘有绿色、黄色和红色区域。绿色意味着你有选择权：你可以实验、扩展并从错误中恢复。黄色意味着你开始失去灵活性。红色意味着你盲目飞行，任何举动都可能使情况更糟。

每个仪表盘旁边有一个杠杆，当仪表盘变红时你可以拉动。拉动杠杆并不能解决问题，它只是为你争取时间和信息，以便在不损害客户信任的情况下修复问题。

一个规则写在便利贴上：当任何仪表盘为红色或未知时，切勿扩展规模。

仪表盘一：基础债务

基础债务关乎可追溯性：当出现问题时，你能查明发生了什么吗？比如，客户抱怨错误答案，你能否调出对话，查看助手引用的是哪个版本的策略，并重新运行以理解原因？如果不能，你就是在盲修。

基础债务不同于漂移。漂移发生在外部世界变化而模型保持不变时：人们开始用新的词语询问模型从未受过训练处理的情况。基础债务发生在模型周围的脚手架变化而模型保持不变时：策略版本、检索索引、提示链或其他脚手架不再与真实情况一致。Maya的退货策略错误就是基础债务的一个例子：变化的不是世界，而是助手背后的索引。

仪表盘一测量两件事：你能重现昨天行为的可能性，以及答案引用当前策略的可能性。绿色：95%或以上的抽样会话通过法证和回归重放测试。黄色：70%到95%通过任一测试。红色：低于70%，或对关键意图（如退款和取消）缺少引用。杠杆：版本化和重放。产品经理决策：阻止扩展直到变为绿色。

仪表盘二：漂移债务

漂移债务发生在模型所处的世界发生变化，但模型保持不变时。新的促销或季节改变了意图组合：本周更多取消，更多地址变更，12月大量礼品收据问题。你的仪表板仍然显示模型准确，因为它的评分是根据三个月前冻结的对话样本衡量的。那个旧样本从未包含新问题。所以数字保持绿色，而真实信号变红：聊天时间变长，更多人要求人工，更少人带着解决问题离开。模型说它表现良好，但你的客户不同意。

仪表盘二测量你的客户是否越来越不满意，而你的仪表板看起来仍然良好。绿色：解决率在基线±3%内，且“请求人工”在基线+2%或以下。黄色：任一指标方差在3%到7%之间。红色：解决率下降超过7%，或“请求人工”上升超过5%且连续两天。杠杆：影子模式和刷新。产品经理决策：阻止扩展直到变为绿色。

仪表盘三：运营债务

运营债务关乎诸如速度、成本、隐私和所有权等不引人注目的事情：高峰时段回复变慢，每次会话成本上升，客户地址和订单号等个人数据开始出现在不该出现的地方。系统中某处有一个没人完全理解的提示纠缠，由六个月前离开的人编写，用没人记得选择的默认设置将三个服务粘合在一起。

仪表盘三测量回复是否快速、成本是否有限、日志是否干净、系统的每个部分是否有人负责。绿色：首字节时间（TTFT）低于1秒，p95周转延迟低于2秒，成本在目标范围内，30天内零PII事件，每个提示和适配器有指定负责人。黄色：p95延迟2到3.5秒，或成本超出目标0-20%。红色：p95高于3.5秒，成本超出目标20%以上，或任何PII泄漏。杠杆：护栏和稳定。产品经理决策：阻止扩展直到变为绿色。

Maya的情况中，黑色星期五时回复减慢到四秒，客户开始中途放弃对话。更糟的是，隐私检查发现客户地址出现在日志中，而她的团队无法快速修复，因为逻辑分散在三个服务中，没有单一负责人。

风险是真实的。IBM的2025年数据泄露成本报告将平均泄露成本定为444万美元，未经授权的“影子”AI额外增加约67万美元，97%经历过AI相关事件的公司没有适当的访问控制。加拿大航空在法庭上吸取了教训：2024年，因其聊天机器人向悲痛客户提供错误的丧亲票价政策而被追究责任。仲裁庭驳回了该航空公司关于机器人与公司分离的论点。Maya的问题类似：面向客户的助手自信地陈述了不是公司政策的内容。

Klarna从另一个方向说明了这一点。2024年它宣称其AI完成了700名代理的工作，但到2025年它重新开始招聘人员：削减成本也削减了服务质量。没有能让你看到什么在坏的仪表就快速扩展，速度本身就会成为伤害你的东西。

关于仪表盘和它们测量的债务类型，还有三件事要说，但由于成本限制，文章在此截断。