亞馬遜雲科技宣佈 Amazon Bedrock AgentCore 推出代理質量優化功能預覽版,旨在解決 AI 代理在生產環境中性能逐漸退化的問題。新功能包含建議生成、批量評估和 A/B 測試,形成完整的觀察-評估-改進循環。
AI 代理在發佈時表現良好,但隨着模型演變、用户行為變化和提示詞被用於未設計的新場景,代理質量會悄然下降。傳統上,開發者需要手動閲讀追蹤、形成假設、重寫提示詞並測試,但這往往導致新問題。AgentCore 的新功能通過系統化數據驅動的方法替代了這一手動循環。
建議生成功能分析生產追蹤和評估輸出,為指定的評估器優化系統提示或工具描述。批量評估允許針對預定義測試數據集測試建議,並報告聚合分數,捕捉關鍵用例的迴歸。A/B測試通過 AgentCore Gateway 在實時代流量中分割比較版本,提供置信區間和統計顯著性。這些功能共同取代了手動追蹤閲讀、猜測修復和盲目部署的循環。
實際運行中,開發者可以使用建議 API 指向 CloudWatch 日誌組,選擇獎勵信號(內置或自定義評估器)並指定優化目標。更改作為配置包打包,配置包是不可變的版本化快照,通過 AgentCore SDK 動態加載。離線驗證通過批量評估進行,在線驗證通過 A/B測試。測試結果包括置信區間和 p 值,獲勝版本可提升為默認配置。
未來,該循環將更加自動化:建議可綜合考慮多個評估器,擴展優化表面到技能,並自動從追蹤中聚類生產故障。監控警報可在評估器低於閾值時自動啓動建議和驗證,結果進入審核隊列。
開發者可通過 GitHub 上的 Market Trends Agent 示例體驗完整循環,或通過 AgentCore 控制台和 CLI 開始使用。