本文原發表於Drew Breunig的博客，經授權轉載。
得益於自然語言界面，AI應用的原型設計變得極其迅速：只需用英語描述需求，交給前沿模型，一個下午就能得到工作原型。對於一次性任務，這種方法非常高效。然而，當用於構建可靠系統時，自然語言提示卻是一個陷阱。
讓原型設計毫不費力的簡單英語提示，實際上是一種糟糕的系統行為規範方式。問題不會立刻顯現，而是像賬單一樣慢慢累積，偽裝成正常進展，直到應用幾乎無法改動。問題不在於單個提示，而在於自然語言從未被設計為工程規範語言，將其視為規範會悄無聲息地限制你所能構建的系統的複雜性。
提示債務的陷阱
提示債務的第一個症狀是迭代變慢。隨着用户發現錯誤和邊界情況，你會在指令中添加額外指導，試圖讓模型就範。如果不良行為持續，你會重複指令，語氣越來越嚴厲。很快，提示變得冗長臃腫，快速修復會破壞之前的指令。錯誤無法用一行“熱修復”解決，開發週期陷入停滯。
例如，Fable的系統提示將版權指導重複多達六次，出現在名為search_instructions、search_usage_guidelines、mandatory_copyright_requirements、hard_limits、self_check_before_responding和critical_reminders的多個部分中。
其次，提示債務會癱瘓團隊。充滿邊界情況和全大寫威脅的脆弱提示，連你自己都難以理解，更不用説同事了。許多團隊通過將提示拆分為運行時組裝的複雜模板來緩解問題，每個模板專用於特定關注點。但這些提示片段也會演化，最終變成一片條件混雜的荊棘叢。
最後，提示債務讓你綁定於單一模型。你的熱修復在GPT-4o上有效，但當切換到GPT-5.4-mini時卻會以全新方式失敗。於是你只能留在4o上，祈禱推理提供商越來越頻繁的棄用郵件只是虛張聲勢，並放棄更便宜、更快、更好的模型的可能性。Datadog最近一份報告表明這很常見：他們觀測到流量中使用最多的模型是GPT-4o。
這三個問題單獨來看都只是麻煩，但合在一起就決定了你擁有的是一個美化版原型還是能隨着你、客户和業務一起成長的產品。你閃亮的AI新功能被凍結，只能通過完全重構來改進，並鎖定在過時的模型上。
提示債務為何發生
自然語言界面很出色，適用於一次性任務和廣泛對話。問題在於我們依賴自然語言來定義持久的系統行為。
自然語言的不精確性加上概率語言模型，意味着表達相同意圖的不同詞可能產生不同輸出。在最近一項研究中，一個臨牀問題用患者的口吻和醫生的口吻分別詢問（事實相同），結果Opus從全部拒絕回答變為全部回答。
不僅措辭重要，提示中看似無關的陳述也會影響結果。在哈佛的一項研究中，研究人員發現僅聲明用户支持的NFL球隊，就會改變模型拒絕回答敏感話題的頻率。虛假陳述以我們無法預測的方式影響推理過程。這就是為什麼隨着你添加修復，提示變得更脆弱：為了抑制一個頑固錯誤而添加的額外指令，可能會影響模型對另一個昨天還正常工作的指令的解釋。
重複指令將我們推向提示債務，但當我們期望的行為與模型訓練相悖時，重複又是必要的。這就是“對抗權重”，一旦認識到這一點，你會發現它無處不在。例如，ChatGPT的圖像指令曾八次告訴LLM在返回生成圖像時不要回復，因為它被訓練成總是保持對話。
我們分析過的每個編碼代理系統提示都包含重複指令、嚴厲警告和全大寫要求。Claude Code七次告訴Opus在單個響應中返回多個工具調用。即使是最先進的模型也迫使提示作者對抗權重：Fable泄露的系統提示將一條特定版權規則重複了六次。
這些例子都不是孤立的。我們檢查的系統提示中交織着多條重複規則。頑固錯誤使提示迅速膨脹，每次修改都增加脆弱性和迴歸風險。
更糟的是：這些修復是針對單一模型行為的。伯克利最近領導的一項研究發現，企業堅持使用舊模型，因為新模型會破壞現有的代理。這是因為模型不是乾淨的版本化軟件，它們有不同的權重，以不可預測且未文檔化的方式產生不同行為。在GPT-4o上完美運行的提示可能在GPT-5.5上失敗。Anthropic自己的Fable發佈説明警告，為先前模型開發的技能可能“降低輸出質量”。
提示債務將應用鎖定在單一模型上。無法輕鬆交換模型並非前沿實驗室巧妙設下的護城河，而是因為我們對概率模型演化出的有損自然語言規範。
預防提示債務
幸運的是，我們不必空想如何緩解提示債務；一個領域已經指明瞭方向。使用編碼代理的程序員站在模型能力的浪尖，是模型能力鋸齒狀邊界上的異常值。過去幾年，他們演化出了最佳實踐，讓模型編寫更多代碼，同時交付可維護、模塊化的軟件。
第一個原則是用度量而非描述來指定系統行為。當模型輸出是概率性的且語言不精確時，我們需要構建硬邊界來約束它們：評估、度量和類型規範。這些是可讀、可共享的工件，同事可以閲讀和貢獻，從而實現脆弱提示所阻止的協作。
最優秀的工程師現在花在測試上的時間比以往更多，因為測試不再是安全網，而是讓模型充分發揮作用的關鍵。
第二個原則是停止手動編寫提示。一旦我們有了能對候選者評分的度量，提示就不再是需要手工雕琢的東西，而是需要搜索的對象。自然語言允許的潛在單詞、短語和結構的表面區域太大，無法用人工時間來處理。這是LLM天生適合探索的地形，已經有系統（如DSPy和GEPA）為你管理這項工作，讓提示對你的設計負責。
一旦提示由程序生成，系統行為由度量定義，你就不再受特定模型束縛。評估新模型只需數小時而非數週。當更快、更便宜的模型出現時，你可以嘗試。當收到棄用郵件時，你可以在一天內找到替代方案。無論是因監管原因被撤下（如Anthropic的Fable），還是因版本過久被棄用（如Groq上週對Llama-3.1-8b的宣佈），修復都只是日常雜務，而非緊急救火。
每一個成熟的工程學科最終都會停止手工完成那些曾經引以為傲的手工工作。彙編讓位於編譯器，手工調優的查詢讓位於規劃器，手動內存管理（大部分）讓位於機器。提示編寫也不例外。
用恰到好處的詞彙引導模型是一項真正的技能，對於一次性任務往往是最優的。但要構建可靠、可改進、可移植的系統，我們不應手工調優提示。
腳註：Datadog的數據來自今年3月，GPT-4o的集中度可能已有所下降。然而，我從多個大型推理提供商處得知，GPT-4o及類似版本模型的調用量仍可佔總調用量的50%以上！