護欄:保護您的代理、數據和成本 | OpenRouter
OpenRouter 推出了工作區護欄功能,這是一套可配置的安全與治理工具,包括預算執行、零數據保留、模型和提供商限制、提示注入防禦以及數據丟失預防。護欄可以分配給 API 密鑰或團隊成員,無需更改代碼即可實現精細化管理。
文章情報
要點
- 預算執行:支持每日、每週或每月的支出限制,每個實體獨立計算。
- 零數據保留與模型/提供商限制:一鍵禁用數據保留端點,或限制為允許列表中的模型/提供商。
- 提示注入防禦:基於 30 多個正則表達式模式檢測注入攻擊,支持標記、編輯或阻止請求。
- 數據丟失預防:內置七種敏感信息類型和自定義正則表達式,可編輯或阻止包含 PII 的請求。
為甚麼重要
這條新聞值得關注,因為預算執行:支持每日、每週或每月的支出限制,每個實體獨立計算。
技術影響
可能影響模型選型、推理成本、產品能力和評測基準。
OpenRouter 近日為其工作區推出了全新的“護欄”功能,這是一套可配置的安全與治理工具,旨在幫助用户保護代理、數據和成本。護欄包括預算執行、零數據保留(ZDR)、模型和提供商限制、提示注入防禦以及數據丟失預防(DLP)等多個模塊。用户可以在不修改代碼的情況下,將這些規則層層疊加,應用於整個工作區,或者為特定的團隊成員組或 API 密鑰創建自定義護欄。
要開始使用,用户可以在主儀表盤中進入“工作區 > 護欄”頁面,或者通過管理 API 進行配置。每個工作區都有一個默認的護欄,可以作為基線應用於所有 API 密鑰和成員。此外,用户還可以創建額外的護欄,對特定的密鑰或成員實施更嚴格的限制。
預算執行功能允許用户設置每日、每週或每月的支出限額。當請求超過限額時,將返回 403 錯誤響應。每個實體(如成員或 API 密鑰)的預算是獨立的,不會共享。例如,為三個團隊成員各分配一個每日 50 美元限額的護欄,每個人都有自己的 50 美元預算。API 密鑰的預算在成員預算之上獨立疊加,兩者在每次請求時都會同時檢查。
零數據保留和模型/提供商限制功能讓用户能夠一鍵禁用所有保留或訓練數據的端點,阻止單個模型或提供商,或者將工作區限制在允許列表內的模型和提供商。不允許的請求將返回 403 錯誤。用户賬户級別的隱私策略和提供商限制默認被繼承,而護欄只能施加更嚴格的限制。
提示注入防禦功能通過一組超過 30 個正則表達式模式(源自 OWASP LLM 提示注入預防速查表及其他資源)來識別提示注入和越獄嘗試。檢測系統包括捕捉常見規避策略的技術,如字形變異、編碼和字符間距規避。檢測是確定性的,延遲開銷極小。檢測在請求發送到模型提供商之前進行,因此被阻止的流量永遠不會離開 OpenRouter。用户可以選擇三種處理方式:標記(允許請求通過,僅記錄檢測結果)、編輯(將匹配部分替換為 [PROMPT_INJECTION] 後發送)和阻止(整個請求被拒絕並返回 403,包含檢測到的模式類型元數據)。
數據丟失預防功能用於檢測和處理請求中的 PII 及其他敏感信息。內置七種敏感信息類型,包括電子郵件地址、電話號碼、社會安全號碼、信用卡號碼、IP 地址、人名和地址。用户還可以添加自定義正則表達式模式,用於特定領域的敏感數據,如內部項目代號或專有 IP。每個模式可以配置為編輯或阻止請求。內置的大部分模式和所有自定義模式使用正則表達式匹配,這是確定性的且延遲極小。人名和地址使用自然語言處理(通過 Presidio),延遲與輸入大小成正比。
護欄可以分配給多個 API 密鑰或成員。當分配給成員時,護欄將應用於該成員在工作區中的所有密鑰。每個工作區都有一個可配置的默認護欄,適用於所有 API 密鑰和成員。其他護欄在此基礎上疊加。用户也可以通過管理 API 以編程方式配置護欄,包括創建、更新、刪除、列出以及分配給密鑰或成員,從而在團隊入職或密鑰輪換時實現自動化配置。
有關更多詳細信息,用户可以查閲護欄文檔概述和 API 參考。