AI生成的代碼是“等待發生的痛苦”

在軟件可觀測性公司Lightrun的客户解決方案副總裁Moshe Sambol看來，AI生成代碼的繁榮正在悄然堆積技術債務。他在接受The Register採訪時表示，儘管一些開發者對AI工具得心應手，但更多開發者仍處於學習曲線的早期階段。企業的期望已遠超實際能力，尤其在培訓和工具適配方面。

Sambol指出，部分客户甚至告知開發者“不再手寫代碼，只負責審查”——只有當AI三次生成失敗後才允許手動編寫。然而，另一端如銀行等機構，由於合規和謹慎傳統，剛開始緩慢引入AI。這種兩極分化給開發者帶來了巨大壓力：既要學習新工具，又要滿足不斷提升的生產力預期。

他舉了一個典型案例：一位開發者使用AI助手構建Ansible自動化工作流。起初一切順利，但幾小時後系統突然崩潰。開發者花費整個下午排查，AI卻給出錯誤建議，甚至重新安裝操作系統。最終發現，問題源於AI在當天早些時候部署了一個容器實例並佔用端口，後續的部署版本與之衝突。AI沒有記住先前操作，導致開發者陷入死衚衕。

Sambol強調，多項研究表明AI生成代碼中存在大量錯誤，並可能引發技術債務。這並非貶低人類開發者——他們也有弱點，尤其在大型項目中難以通盤理解系統。但AI工具無法彌補知識鴻溝，反而可能加劇問題。他認為，關鍵在於建立可重複的提示工程流程，並始終保留人類監督。他總結道：“這些工具進步驚人，但只有保持人工參與，才能獲得至少和過去一樣可靠的輸出。”

Sambol進一步解釋説，AI模型生成代碼的速度很快，但最初看似正確的代碼往往會迅速通過審查，進入生產環境。他警告説：“如果今天它沒有大規模製造缺陷，那也只是等待發生的痛苦。”他呼籲開發者必須問自己：“你能解釋那段代碼嗎？你驗證過它是否真正適應整個系統的上下文嗎？”

在談到人類開發者的弱點時，Sambol承認，許多公司擁有跨國或分佈式開發團隊，沒有人能完全理解整個系統。但AI系統並沒有幫助彌合這一知識差距，反而可能因為缺乏上下文而導致更多問題。他建議通過自動化提示流程來提高結果的可重複性，並強調在AI工具快速迭代的今天，保留人類在循環中是確保輸出可靠性的關鍵。