AI时代的技术支持变得疯狂
一位开发者讲述了用户因AI幻觉而提交的错误支持请求，例如ChatGPT生成了一款从未存在过的软件界面截图，以及MS Copilot编造出不存在的功能。这些事件凸显了AI在提供技术支持时可能带来的误导风险。
文章情报
要点
- 用户因AI幻觉而要求恢复一个从未存在过的功能，并提供了虚构的截图。
- MS Copilot在回答如何执行一键编码时，编造了三个不存在的转换步骤。
- 客户越来越多地使用AI寻求技术支持，这可能导致错误信息的传播。
为什么重要
这条新闻值得关注，因为用户因AI幻觉而要求恢复一个从未存在过的功能，并提供了虚构的截图。
技术影响
可能影响模型选型、推理成本、产品能力和评测基准。
最近，一位软件开发者收到了一封令人哭笑不得的客户邮件。客户在邮件中要求“请考虑重新添加从一个时区转换到另一个时区的选项，就像Easy Data Transform 1.x版本中那样”，并附上了一张截图。然而，开发者的这款数据转换工具从未有过时区转换功能，这让他感到十分困惑。更令人震惊的是，截图虽然显示标题栏写着“Easy Data Transform v1.11.2”，但界面根本不是他们公司的软件！开发者起初以为是有人冒名顶替，但搜索后发现并不存在另一款名为“Easy Data Transform”的软件。他回信询问客户截图的来源，得到的回复是：“截图来自ChatGPT的输出——可能是幻觉。”
原来，ChatGPT不仅凭空想象出了这个不存在的功能，还生成了一个逼真的用户界面截图，包括那个虚构的功能。乍一看，截图看起来像真的一样，但仔细检查图标就能发现破绽。开发者提供了真实的界面截图作为对比，指出ChatGPT虽然猜对了部分输入类型、转换和菜单，但整体上差异很大。
无独有偶，开发者还遭遇了另一起AI幻觉事件。当他向微软的Copilot询问如何在Easy Data Transform中执行“一键编码”时，Copilot给出了一个听起来非常合理且自信的回答，列出了四个所需的转换步骤。然而，问题在于这四个步骤中只有一个是真实存在的（Split Col），其他三个完全是编造出来的！
开发者感叹道，客户现在越来越倾向于直接向AI提问，而不是阅读文档或在论坛上寻求帮助。如果AI能够提供快速准确的答案，这固然是好事，不会打扰忙碌的开发者。但问题在于，当AI给出错误答案时，尤其是这些答案看起来合理且自信满满时，客户很容易被误导。这不仅让AI“窃取”了网站的流量，还给客户带来了糟糕的支持建议。开发者无奈地表示：“疯狂的时代即将到来。”
有趣的是，在文章末尾，开发者提到，时区转换和一键编码功能现在已经在新版本的Easy Data Transform中实现了——这或许是对那些AI幻觉的一种讽刺。