AI News HubLIVE
站内改写2 分钟阅读

agentgateway 加入 AAIF,成为智能代理基础设施的开放网关

agentgateway 是一个专为 AI 和代理工作负载设计的统一开源网关,现已作为第四个项目加入 Linux 基金会旗下的代理 AI 基金会 (AAIF)。它通过单一平台管理 MCP、A2A、LLM 推理、HTTP 和 gRPC 流量,提供安全、可观测性、路由和治理能力,帮助组织应对智能代理系统带来的运维挑战。

来源Hacker News AI作者: wicket

随着人工智能系统日益呈现出分布式系统的特征,代理调用工具、模型跨提供商路由、工作流跨越 API、MCP 服务器、数据库及其他代理,传统的 Web 流量基础设施已无法有效应对智能代理系统带来的治理、可观测性、路由和安全挑战。为了帮助社区应对这些新兴基础设施难题,agentgateway 正式加入代理 AI 基金会 (AAIF),成为 Linux 基金会旗下的第四个托管项目。

agentgateway 是一个面向现代 AI 系统实际运行方式的开源网关。它提供了一个统一层,通过单一运维面管理 MCP 流量、代理间通信、LLM 推理、REST API 和 gRPC 服务。组织无需为 AI 系统搭建独立基础设施,而是可以使用相同的安全控制、可观测性管道、路由策略和治理模型,统一管理 AI 和传统应用流量。对于平台团队而言,这意味着可以用熟悉的运维原语管理代理流量,而无需另建一套仅适用于 AI 的基础设施栈。

agentgateway 的核心能力包括:支持 MCP 和 A2A 的现代代理互操作性协议,提供路由、联邦和流量管理;模型无关性,可在 LLM 提供商之间无缝切换,并原生支持开放权重模型;统一数据平面,一个网关同时处理 HTTP、gRPC、LLM 推理和代理流量;安全控制涵盖 JWT 认证、API 密钥、RBAC、外部授权、mTLS、CORS 以及恶意工具行为防护;内置可观测性,提供专为 AI 和代理工作流设计的指标、追踪和访问日志;MCP 虚拟化功能可将多个 MCP 工具服务器联邦为单一访问点,并配置工具级访问策略;支持使用通用表达式语言 (CEL) 的声明式策略;模型和工具治理包括速率限制、基于内容的路由、提示保护、预算控制和模型别名;部署方式平台无关,可在裸机、虚拟机、容器和 Kubernetes 上运行,并且完全符合 Gateway API;通过 xDS 实现动态配置,无需停机;基于 Rust 构建的高性能架构,具有低延迟和高吞吐量。

AAIF 为关键的智能代理标准、协议和开源项目提供了开放中立的平台,由 Linux 基金会托管。这包括 MCP 等标准、goose 等开源工具,以及 agentgateway 这样的基础设施项目。agentgateway 通过提供共享基础设施层,帮助组织在各类工具和服务中管理 AI 流量、代理工作流、互操作性、安全和治理,从而强化了整个生态系统。它为社区提供了一个协作平台,共同构建智能代理系统大规模采用所需的运维基础。

Solo.io 开源负责人兼 agentgateway 贡献者 Lin Sun 表示:“将 agentgateway 捐赠给 AAIF 是项目发展的自然下一步。我们的目标从一开始就是通过开放基础设施帮助组织管理 AI 系统的运维现实——安全、治理、可观测性和可靠性。将项目纳入 AAIF 确保它能通过开放协作和中立治理与更广泛的生态系统共同演进。”

agentgateway 采用 Apache 2.0 许可证,社区已聚集 60 多个组织的 300 多名活跃贡献者,包括 CoreWeave、Red Hat、Solo.io、Adobe、Salesforce、Amdocs 和 Microsoft。欢迎访问 agentgateway.dev 查阅文档,在 GitHub 上星标和贡献,查看入门指南,加入 Discord 讨论,或参加每周社区会议。