AI News HubLIVE
站内改写1 分钟阅读

KitForge – 生成AI智能体清单;通过强制审批门限搭建

KitForge是一个开源框架,通过确定性门控机制强制执行AI智能体的安全控制,包括权限预算、审计追踪、人工审批和断路器。它提供浏览器内设计工具和Python CLI,可生成带强制安全措施的智能体代码。

来源Hacker News AI作者: stoicstoic

为何存在?大多数“智能体安全”框架描述了代码从不强制执行的护栏——一个始终返回真的审计验证,从不阻止的预算计数器。KitForge则以相反方式构建:控制机制是模型周围的确定性门控,且仓库附带证明它们能阻止实际违规的测试。运行python -m pytest tests/,观察被篡改的审计日志如何验证失败,以及被拒绝的审批如何中止操作。

KitForge强制实施的安全机制包括:

  • 权限预算阻断:工具调用、令牌和挂钟计数器递减并在耗尽时引发异常,智能体循环停止,而非记录警告并继续。
  • 防篡改审计追踪:仅追加、HMAC链式日志。verify()函数重新计算链,若任何条目被更改、重排序或删除则返回false。这不是一个空操作。
  • 人工审批门控:拒绝或超时的审批会引发异常,受保护的操作绝不被执行。审批在结构上是必需的,而非礼貌请求。
  • 断路器和输出验证:断路器在重复工具失败后打开并拒绝进一步调用;工具输出在接触智能体状态前需通过声明的模式验证。

用户可通过浏览器设计智能体:访问KitForge网站,使用内置设计器绘制智能体,获得有效的blueprint.json文件。此设计可一键通过合规扫描器检查。实际代码通过Python CLI在本地生成。快速开始步骤:解压下载的zip文件,安装唯一的运行时依赖pydantic,运行测试确保13项强制测试通过,然后使用python -m kitforge demo -o ./my-agent生成示例智能体(季度收益分析器)。进入目录后设置审计密钥并运行,智能体循环开始,人工审批门控会在“发布”操作前等待批准。

诚实的范围:仅支持Python和LangGraph模式。生成的图运行器最小化,生产环境中可替换为langgraph.StateGraph,但安全连线相同。生成的工具是模拟桩,将其连接到真实系统(以及真实的审批人——Slack、邮件、Web)是最后一步,由用户完成。KitForge强制执行其自带的控制,但不能替代特定部署的安全审查。它是AgentKits治理工具集的一部分,另请参阅合规扫描器和风险评估。