在Amazon Bedrock上構建生成式AI應用時，提示工程一直是手動工作量最大的環節之一。當新模型發佈時，團隊通常需要花費數天到數週的時間來優化提示並重新評估響應，這導致了模型鎖定、性能欠佳、迴歸不可見以及迭代週期緩慢等問題。為了解這一痛點，Amazon Bedrock推出了高級提示優化功能。該功能採用指標驅動的反饋循環，基於強化學習風格對提示進行迭代優化，而不改變模型權重。用户只需提供提示模板、示例輸入、可選的真實答案和評估指標，系統就會自動發送請求、評估響應並重寫提示，直到提示在指定指標上達到最優。該功能支持最多5個模型同時優化，並輸出原始和優化後的提示及其評估分數、首Token延遲（TTFT）和成本估算。
在評估方面，高級提示優化提供了三種模式：AWS Lambda函數模式適用於需要精確指標（如準確率、F1分數）的場景；LLM作為評判模式適用於開放式任務（如摘要、推理）；引導標準模式則用於控制品牌語調、格式和安全約束。此外，該功能還支持多模態輸入，包括PNG、JPG、JPEG、GIF、WebP和PDF格式的文件。
用户可以通過控制台或API/SDK使用該功能。在控制台中，創建優化作業、選擇模型、上傳JSONL格式的輸入數據集，然後提交作業。結果頁面會顯示優化前後的評估分數、優化後的提示、每個樣本的TTFT以及成本估算。通過API/SDK，用户可以使用boto3創建作業、輪詢狀態並下載結果。
Amazon Bedrock高級提示優化有效縮短了提示工程週期，使團隊能夠更快速地遷移到新模型或改進現有模型，從而提升生成式AI應用的性能、降低成本並加速迭代。