企業AI：神秘代碼、殺傷區、認知投降、氛圍炸彈

企業AI項目的失敗率居高不下，其根源在於系統架構和設計上的根本缺陷——或者説，缺乏設計。大多數組織缺乏專門為優化AI系統而設計的企業級架構，這一缺陷使它們容易受到大語言模型（LLM）聊天機器人退化效應的影響，並分散管理層對更重要職能的注意力。此外，員工繼續使用消費級聊天機器人完成工作產品，導致敏感和機密信息未經授權披露，危及組織未來。本週的討論聚焦於在缺乏強有力治理的情況下，廣泛部署LLM聊天機器人所帶來的日益升級的風險。

“氛圍編碼”後遺症

2025年初，AI研究員Andrej Karpathy創造了“氛圍編碼”一詞，指的是通過僅使用自然語言提示大語言模型（LLM）聊天機器人來生成應用程序的軟件開發實踐。雖然這種方法在創建功能原型和小規模業餘應用程序方面極其迅速，但其在企業架構中的應用可能導致重大失敗。

當開發者依賴LLM聊天機器人生成代碼，而非作為基礎架構師時，結果就是業界所稱的“神秘代碼”代碼庫。由此產生的後果日益嚴重。由於LLM缺乏長期架構記憶，嘗試修復單個缺陷往往會在其他地方引入多個新錯誤。Stack Overflow 2025年對超過49,000名開發者的調查發現，66%的人現在難以處理“幾乎正確”的AI生成代碼，45%的人報告調試AI生成代碼比自行編寫花費更長時間。METR的一項隨機對照試驗發現，經驗豐富的開發者在使用AI工具時實際上速度慢了19%——儘管他們自認為速度快了20%。認知投降問題（下文討論）在生產軟件開發中已經可測量。

使用LLM開發的自動化工具經常生成不安全的邏輯，包含未經驗證的第三方依賴，並直接將硬編碼密鑰或過度寬鬆的默認設置嵌入應用程序。Veracode 2025年GenAI代碼安全報告發現，大約45%的AI生成代碼包含可利用的漏洞，其中跨站腳本錯誤出現在86%的相關代碼樣本中。2025年12月CodeRabbit對470個開源拉取請求的分析發現，AI共同編寫的代碼中包含的主要問題大約是人類編寫代碼的1.7倍，安全漏洞出現的頻率是其2.74倍。

因此，企業正在不知不覺中被部署了所謂的“氛圍炸彈”，這些炸彈將在未來的某個不可預測日期爆炸。在絕大多數情況下，沒有人類工程師進行過代碼審查。

氛圍炸彈 一種由LLM聊天機器人根據自然語言提示生成的缺陷軟件引起的企業網絡隨機延遲入侵。