AI時代的技術支援變得瘋狂
一位開發者講述了使用者因AI幻覺而提交的錯誤支援請求，例如ChatGPT生成了一款從未存在過的軟體介面截圖，以及MS Copilot編造出不存在的功能。這些事件凸顯了AI在提供技術支援時可能帶來的誤導風險。
文章情報
要點
- 使用者因AI幻覺而要求恢復一個從未存在過的功能，並提供了虛構的截圖。
- MS Copilot在回答如何執行一鍵編碼時，編造了三個不存在的轉換步驟。
- 客戶越來越多地使用AI尋求技術支援，這可能導致錯誤資訊的傳播。
為什麼重要
這條新聞值得關注，因為使用者因AI幻覺而要求恢復一個從未存在過的功能，並提供了虛構的截圖。
技術影響
可能影響模型選型、推理成本、產品能力和評測基準。
最近，一位軟體開發者收到了一封令人哭笑不得的客戶郵件。客戶在郵件中要求“請考慮重新新增從一個時區轉換到另一個時區的選項，就像Easy Data Transform 1.x版本中那樣”，並附上了一張截圖。然而，開發者的這款資料轉換工具從未有過時區轉換功能，這讓他感到十分困惑。更令人震驚的是，截圖雖然顯示標題欄寫著“Easy Data Transform v1.11.2”，但介面根本不是他們公司的軟體！開發者起初以為是有人冒名頂替，但搜尋後發現並不存在另一款名為“Easy Data Transform”的軟體。他回信詢問客戶截圖的來源，得到的回覆是：“截圖來自ChatGPT的輸出——可能是幻覺。”
原來，ChatGPT不僅憑空想象出了這個不存在的功能，還生成了一個逼真的使用者介面截圖，包括那個虛構的功能。乍一看，截圖看起來像真的一樣，但仔細檢查圖示就能發現破綻。開發者提供了真實的介面截圖作為對比，指出ChatGPT雖然猜對了部分輸入型別、轉換和選單，但整體上差異很大。
無獨有偶，開發者還遭遇了另一起AI幻覺事件。當他向微軟的Copilot詢問如何在Easy Data Transform中執行“一鍵編碼”時，Copilot給出了一個聽起來非常合理且自信的回答，列出了四個所需的轉換步驟。然而，問題在於這四個步驟中只有一個是真實存在的（Split Col），其他三個完全是編造出來的！
開發者感嘆道，客戶現在越來越傾向於直接向AI提問，而不是閱讀文件或在論壇上尋求幫助。如果AI能夠提供快速準確的答案，這固然是好事，不會打擾忙碌的開發者。但問題在於，當AI給出錯誤答案時，尤其是這些答案看起來合理且自信滿滿時，客戶很容易被誤導。這不僅讓AI“竊取”了網站的流量，還給客戶帶來了糟糕的支援建議。開發者無奈地表示：“瘋狂的時代即將到來。”
有趣的是，在文章末尾，開發者提到，時區轉換和一鍵編碼功能現在已經在新版本的Easy Data Transform中實現了——這或許是對那些AI幻覺的一種諷刺。