AI News HubLIVE
站內改寫2 分鐘閱讀

Show HN: BoundFlow – AI代理的開源控制平面

BoundFlow 是一個開源控制平面,用於管理無人值守運行的 LLM 代理和工作流。它提供成本上限、審批門、自動模型切換、重試和回滾等功能,確保代理安全可靠地運行。

來源Hacker News AI作者: alama24

BoundFlow 是一個開源的控制平面,專為長期運行、有狀態的 AI 代理工作流而設計。它強制實施一系列安全護欄,確保代理在無人值守時仍能可靠運行。其核心功能包括每次運行的成本上限、基於成本或循環策略的自動模型切換、敏感操作前的人工審批門、工具調用限制、重試、冷卻以及版本化回滾。開發人員可以使用簡潔的異步 SDK 編寫代理和工作流,而控制平面負責調度、分發和治理。

與許多其他工具不同,BoundFlow 不監視代理,而是進行干預。它同時作用於代理層和工作流層:在代理層限制花費、中途切換模型;在工作流層對風險步驟進行人工確認、冷卻、回滾或暫停。它擁有工作流級別的感知能力,而不僅僅是代理感知——因為它運行整個工作流,而不僅僅是模型調用:調度每次運行、跨步驟傳遞狀態、從故障中恢復,並驅動工作流完成整個生命週期。

BoundFlow 的治理分為三層:運行時策略(如每次運行硬性成本上限)、代理生命週期策略(如超過預算時降級模型)和工作流生命週期策略(如連續失敗後自動回滾到已知良好版本)。這些策略通過服務器端評估和 SDK 端執行,每次調用都會收集成本、令牌數、LLM 調用、工具計數和失敗等指標。

架構方面,BoundFlow 後端作為控制平面,可以自託管或使用 BoundFlow Cloud。你的工作線程通過 gRPC 連接後端,在你的環境中使用你的 Anthropic 密鑰運行實際代理。後端負責調度、分發、治理和審計,但從不接觸你的密鑰或推理流量。後端由單個二進制文件以三種進程模式運行(服務器、調度器、工作線程),共享同一個 Postgres 數據庫。

SDK 使用示例簡單明瞭:只需定義工作流和代理,控制平面自動應用策略。此外,BoundFlow 支持通過 LangChain 集成任何工具調用型聊天模型,也可以與 LangGraph 結合,讓 LangGraph 負責路由,而 BoundFlow 治理每一步。工作流是多步驟且有狀態的:一個操作可以暫停等待人工決策,然後繼續執行後續步驟。

快速入門只需幾步:設置數據庫密碼、啓動後端、配置 API 密鑰、安裝 SDK,然後運行示例代理。可觀測性基於 OpenTelemetry 原生實現,可導出到 Jaeger、Tempo、Langfuse 等後端。同時提供持久的、可查詢的審計日誌,記錄所有審批和策略決策。

BoundFlow 目前處於公開預覽階段(pre-1.0),引擎已通過 Go、模擬 LLM 和真實 LLM 測試套件驗證,但尚未在生產環境中與外部用户一起運行。API(包括 gRPC protobuf)可能在 1.0 之前發生變化。團隊正在尋找早期採用者和設計合作伙伴。