AI_glue — 为OpenAI和Anthropic应用提供即插即用的审计与治理

AI_glue 是一个开源的轻量级工具，专为使用 OpenAI 和 Anthropic API 的应用程序设计，旨在提供即插即用的可观测性和治理功能。它作为一个透明代理运行在应用程序与模型提供商之间，无需修改应用代码即可实现调用日志记录、支出监控、PII（个人身份信息）检测以及硬性治理规则的强制执行。

该工具支持两种集成模式：代理模式和包装器模式。在代理模式下，开发者只需修改环境变量 ANTHROPIC_BASE_URL 或 OPENAI_BASE_URL 指向 AI_glue 实例，所有 API 调用便会自动被拦截、记录并通过治理规则检查。代理完全支持流式传输，可在不改变响应的情况下捕获令牌计数和延迟。开发者还可以通过可选头部 X-Aiglue-Project 和 X-Aiglue-Session 为调用打标签，若未提供则使用环境变量中的默认值。包装器模式适用于新应用或可控制代码的场景，通过 GluedClient 类提供与原始 SDK 相同的 API，同时自动注入会话和项目标签。

AI_glue 的治理引擎通过 governance.yaml 配置文件定义规则，更改后立即生效，无需重启。支持的规则包括模型白名单（阻止未批准的模型并返回403）、每日支出上限、每小时速率限制以及 PII 检测。PII 检测基于正则表达式，可识别电子邮件、社会安全号码、电话号码和信用卡信息等，但不会阻止调用，而是标记为警告供审查。违反规则的行为会被硬性阻止且不会记录到日志中。安全提示：当使用团队 API 密钥映射功能时，governance.yaml 会映射密钥前缀到真实项目名称，因此应视为敏感文件，限制文件系统权限并避免提交到版本控制。

仪表盘提供三个视图：/ 审计视图面向工程师和团队负责人，显示完整的调用日志，包括令牌计数、成本、延迟和 PII 标记，支持按项目、会话和标记过滤；/executive 高管视图面向领导层，以非技术语言展示总AI支出、活跃项目、对话数和风险标志，并带有“全部标记为已审查”操作；/aggregate 多实例视图用于比较开发、预发布和生产环境的独立摘要。通过多实例聚合功能，一个父实例可以拉取多个子实例的 /api/summary 数据，合并到统一视图中，只需在父实例的 governance.yaml 中添加子实例配置即可。

此外，AI_glue 支持团队 API 密钥映射，允许为每个团队颁发合成密钥，代理检测前缀后自动标记调用并替换为真实 API 密钥，实现集中计费和按团队成本归集。工具还包含培训数据导出功能，通过 /export/training 端点将日志转换为 JSONL 格式，支持按会话或项目导出，以及 session 和 turn 两种格式，可用于微调、内容挖掘或构建与提供商无关的能力基线。当依赖的模型被弃用时，这些数据尤为重要。

日志记录字段包括时间戳、提供商、模型、会话ID、项目、输入/输出令牌数、估计成本、延迟、提示哈希和原始文本（需设置 AIGLUE_LOG_RAW=true）等。敏感场景下可关闭原始文本记录。项目基于 Python 3.7+、Flask 和 SQLite，测试套件无需 API 密钥即可运行，共27个测试用例。