AI News HubLIVE
站内改写

護欄:保護您的代理、資料和成本 | OpenRouter

OpenRouter 推出了工作區護欄功能,這是一套可配置的安全與治理工具,包括預算執行、零資料保留、模型和提供商限制、提示注入防禦以及資料丟失預防。護欄可以分配給 API 金鑰或團隊成員,無需更改程式碼即可實現精細化管理。

文章情報

工程師中級

要點

  • 預算執行:支援每日、每週或每月的支出限制,每個實體獨立計算。
  • 零資料保留與模型/提供商限制:一鍵停用資料保留端點,或限制為允許列表中的模型/提供商。
  • 提示注入防禦:基於 30 多個正規表示式模式檢測注入攻擊,支援標記、編輯或阻止請求。
  • 資料丟失預防:內建七種敏感資訊型別和自定義正規表示式,可編輯或阻止包含 PII 的請求。

為什麼重要

這條新聞值得關注,因為預算執行:支援每日、每週或每月的支出限制,每個實體獨立計算。

技術影響

可能影響模型選型、推理成本、產品能力和評測基準。

OpenRouter 近日為其工作區推出了全新的“護欄”功能,這是一套可配置的安全與治理工具,旨在幫助使用者保護代理、資料和成本。護欄包括預算執行、零資料保留(ZDR)、模型和提供商限制、提示注入防禦以及資料丟失預防(DLP)等多個模組。使用者可以在不修改程式碼的情況下,將這些規則層層疊加,應用於整個工作區,或者為特定的團隊成員組或 API 金鑰建立自定義護欄。

要開始使用,使用者可以在主儀表盤中進入“工作區 > 護欄”頁面,或者透過管理 API 進行配置。每個工作區都有一個預設的護欄,可以作為基線應用於所有 API 金鑰和成員。此外,使用者還可以建立額外的護欄,對特定的金鑰或成員實施更嚴格的限制。

預算執行功能允許使用者設定每日、每週或每月的支出限額。當請求超過限額時,將返回 403 錯誤響應。每個實體(如成員或 API 金鑰)的預算是獨立的,不會共享。例如,為三個團隊成員各分配一個每日 50 美元限額的護欄,每個人都有自己的 50 美元預算。API 金鑰的預算在成員預算之上獨立疊加,兩者在每次請求時都會同時檢查。

零資料保留和模型/提供商限制功能讓使用者能夠一鍵停用所有保留或訓練資料的端點,阻止單個模型或提供商,或者將工作區限制在允許列表內的模型和提供商。不允許的請求將返回 403 錯誤。使用者賬戶級別的隱私策略和提供商限制預設被繼承,而護欄只能施加更嚴格的限制。

提示注入防禦功能透過一組超過 30 個正規表示式模式(源自 OWASP LLM 提示注入預防速查表及其他資源)來識別提示注入和越獄嘗試。檢測系統包括捕捉常見規避策略的技術,如字形變異、編碼和字元間距規避。檢測是確定性的,延遲開銷極小。檢測在請求傳送到模型提供商之前進行,因此被阻止的流量永遠不會離開 OpenRouter。使用者可以選擇三種處理方式:標記(允許請求透過,僅記錄檢測結果)、編輯(將匹配部分替換為 [PROMPT_INJECTION] 後傳送)和阻止(整個請求被拒絕並返回 403,包含檢測到的模式型別後設資料)。

資料丟失預防功能用於檢測和處理請求中的 PII 及其他敏感資訊。內建七種敏感資訊型別,包括電子郵件地址、電話號碼、社會安全號碼、信用卡號碼、IP 地址、人名和地址。使用者還可以新增自定義正規表示式模式,用於特定領域的敏感資料,如內部專案代號或專有 IP。每個模式可以配置為編輯或阻止請求。內建的大部分模式和所有自定義模式使用正規表示式匹配,這是確定性的且延遲極小。人名和地址使用自然語言處理(透過 Presidio),延遲與輸入大小成正比。

護欄可以分配給多個 API 金鑰或成員。當分配給成員時,護欄將應用於該成員在工作區中的所有金鑰。每個工作區都有一個可配置的預設護欄,適用於所有 API 金鑰和成員。其他護欄在此基礎上疊加。使用者也可以透過管理 API 以程式設計方式配置護欄,包括建立、更新、刪除、列出以及分配給金鑰或成員,從而在團隊入職或金鑰輪換時實現自動化配置。

有關更多詳細資訊,使用者可以查閱護欄文件概述和 API 參考。