使用者常提出涉及多部分、比較性和探索性的問題,這些問題可能跨越PDF、幻燈片、工單、記錄和網頁內容。經典的單一檢索在面對這些問題時往往失效:答案遺漏上下文、支援工單升級、分析師浪費數小時重複搜尋。Amazon Bedrock託管知識庫的智慧檢索正是為解決此類問題而設計。
以一個例項說明差距:假設您已將25年的亞馬遜股東信函攝入托管知識庫。第一個直接問題:“文件中最重要的是什麼?”標準Retrieve API按混合分數返回五個塊。在我們的測試語料中,最高分塊雖得分高但價值低——它涵蓋了亞馬遜標誌配色方案。後續塊涉及招聘、構建者和差異。檢索器完成了工作,按與查詢嵌入的相似度排序。但“最重要的是什麼”很模糊,評分器沒有衡量重要性的訊號。
再考慮一個現實問題:“比較亞馬遜在2020年與2023年如何談論招聘、長期投資和客戶至上。重點有何變化?”單次檢索需用一個查詢向量服務於三個意圖和兩個時間段。結果要麼是鬆散相關的塊,要麼是由最強訊號主導的緊密聚類。這都不是人類分析師會做的。
人類會分解問題:搜尋2020年的招聘,再搜尋2023年的招聘,然後搜尋每一年投資理念。閱讀結果,發現差距,完善搜尋並再次執行。收集足夠證據後,綜合得出結論。智慧檢索透過API自動化了這一工作流程。
單次檢索的不足包括:多部分問題嵌入不佳、比較推理需要針對每個專案檢索、跨來源問題靜態路由規則脆弱、缺乏充分性判斷、無法根據首次結果迭代。團隊已透過自定義代理框架解決,但帶來了額外的複雜性、延遲和成本。
智慧檢索是Amazon Bedrock託管知識庫中的一種新檢索模式,透過AgenticRetrieveStream API提供。它不是一次相似性搜尋,而是由基礎模型驅動的規劃迴圈:模型分解問題,對每個部分進行檢索,判斷證據是否充分,並根據需要迭代。預設在同一呼叫中生成有依據的響應。可設定generateResponse=False僅返回檢索結果。
您能看到迴圈的每個步驟有序的跟蹤事件流:SpeculativeRetrieval(初始檢索)、Planning(分析查詢、輸出子查詢)、Retrieval或FullDocumentExpansion(每次子查詢執行)、Result(最終去重塊)。去重僅在最終結果事件中應用,跟蹤事件保留各步驟詳情。
兩個主要調優引數:maxAgentIteration(迭代次數上限,單知識庫推薦3,多知識庫或比較查詢推薦4-5)和foundationModelType(服務託管模型或自定義模型)。定價方面,智慧檢索按次收費,託管模型每千次$4加底層Retrieve呼叫每千次$1。
API實踐:單知識庫時,傳送請求並消費流,接收跟蹤事件、生成響應塊和最終結果。多知識庫時,可註冊最多五個託管KB檢索器,併為每個附加自然語言描述,規劃器據此路由子查詢。選擇Retrieve API用於簡短明確的問題,選擇AgenticRetrieveStream用於複雜多部分問題。智慧檢索在基準測試中表現優異(詳情略)。