Show HN: RiskKernel – 為失控AI代理設計的終止開關和預算控制

RiskKernel是一個新發布的開源專案，旨在為AI代理提供可靠的執行保障。它由一位開發者獨立構建，以自託管二進位制檔案的形式提供，專注於解決生產環境中AI代理的常見故障：無限迴圈、意外的高額賬單、缺乏故障恢復和可觀測性、缺少人工監督以及治理不足。

與現有的代理框架（如LangGraph、CrewAI、AutoGen）不同，它們主要編排推理過程，但並未內建防止代理在夜間無限迴圈中消耗大量資金的防護措施。RiskKernel作為代理可靠性執行時，位於代理前端，強制執行硬性限制。它使用確定的Go程式碼來處理預算、終止開關、門控等，而LLM只負責提出建議。

RiskKernel的核心功能包括：硬性成本上限（每次執行達到預算後立即終止，狀態持久化）、硬性迴圈迭代上限（防止無限迴圈）、硬性牆鍾時間預算（超時自動停止）、崩潰可恢復的檢查點（即使守護程序被kill -9也能從中斷處恢復，且不會重複消耗預算）、框架無關的人工審批門控（副作用工具呼叫需要人工批准）、自有記憶體（使用Git本地儲存markdown/YAML，SQLite儲存狀態），以及OpenTelemetry GenAI支援（發出gen_ai.*跨度）。

採用方式有三種：作為代理（設定環境變數OPENAI_BASE_URL即可，零程式碼改動）、Python SDK（提供深度控制和介面卡，支援Claude Agent SDK、OpenAI Agents SDK、LangChain）、或OpenTelemetry（作為OTLP端點和發射器，用於已使用OpenLLMetry等工具的應用）。

快速啟動很簡單，透過Docker執行，設定API金鑰和預設預算（例如50美分），然後指向現有代理即可。它還提供了豐富的示例，包括程式碼庫問答、崩潰恢復演示、LangChain整合、MCP工具門控等。

設計原則強調確定性的Go核心、無遙測、使用者自有金鑰和基礎設施、極低的採用摩擦（一個環境變數即可），以及向後相容性。專案採用Apache-2.0許可證，歡迎貢獻。