我知道我能，但我應該嗎？人工智能淘金熱中的能力與意圖

Dave，這位曾在Google工作17年、擔任過SRE工程總監的資深可靠性專家，在AI Builder Series的訪談中提出了一個尖鋭的問題：“我知道我能，但我應該嗎？”他以獨特的視角——那些必須清理代碼生成器遺留問題的可靠性工程師的視角——剖析了當前AI淘金熱中的核心矛盾：能力已遠超意圖判斷。

Dave指出，AI賦予了團隊巨大的代碼生成能力，但這種能力已跑贏判斷。人們現在幾乎可以構建任何東西，但很少有人停下來思考是否應該構建。運營和可靠性團隊正在承受所有過快決策帶來的下游後果。他特別強調，那種“知道配置文件語言”的專家價值正在崩潰，因為AI已經民主化了這類知識。未來的價值將體現在啓發式思維、問題分解、利益相關者管理和架構級思考上——也就是將意圖轉化為能力的“無聊”翻譯工作。

關於供應鏈信任，Dave認為“信任”是錯誤的框架。根本沒有人類在循環中可信任，只有人們在放棄驗證責任。LiteLLM和Trivy漏洞等事件表明，攻擊者在幾分鐘內就能行動（甚至在密鑰輪換期間），當前信任軟件和事件響應的方法正在失效。他傾向於購買這類能力（如Chainguard、Cloudsmith），而不是每個公司都自己構建。

Dave還批評了MTTR（平均恢復時間）作為優化指標的價值，認為它只是更快地堵漏，而忽略了有多少漏洞。更有意義的是MTBF（平均故障間隔時間）和旨在系統性變革的事後分析，以便故障以新穎而非重複無聊的方式出現。他説“讓大家都不那麼做”不是解決方案，因為人員流動後新人會重複同樣的錯誤。

他將當前AI熱潮與90年代末的寵物網（pets.com）泡沫相類比：資金被拋向“看看什麼能粘住”。洗牌終將到來，倖存的是那些對人類基礎有用的東西，就像Google從廢墟中崛起僅因讓信息可被找到。他的建議是“衝向火堆”，解決那些無論AI如何發展都存在的真正難題。

對於模型選擇，Dave指出前沿模型在架構上並不如營銷暗示的那樣不同，差異化多在於品牌。按token定價（如Copilot的變化，便宜和高級模型之間相差約5倍）以及有例子顯示Harvey發現開放模型每任務成本更低，企業真正的問題不是模型是否更好，而是是否足夠好且更便宜。

最後，Dave提出了一個常被忽視的信號：主要AI提供商即將大幅漲價。他對此感到興奮的是自託管“足夠好”、可圍護、自有的模型，以及後調整浪潮中真正以人為本的產品——那些過濾噪音、呈現一二件值得人類判斷的事、讓生活更輕鬆的產品，而不是假裝對話並讓人焦慮。