ToTra – 开源LLM网关，符合GDPR和欧盟AI法案

ToTra 是一个开源 AI 网关和治理平台，内置配额管理、PII 屏蔽、成本追踪和合规（GDPR、欧盟 AI 法案）功能。它使用 Go 编写，延迟增加不到 2 毫秒，支持多种 LLM 提供商，无需更改代码即可接入。