介绍 LiteLLM Agent Platform:基于 Kubernetes 的自托管基础设施层,用于生产环境中的隔离代理沙箱和持久会话管理
BerriAI 开源了 LiteLLM Agent Platform,这是一个自托管的基础设施平台,旨在解决 AI 代理在生产环境中规模化运行时的状态管理、会话持久性和团队隔离问题。该平台基于 Kubernetes 提供每个团队和每个上下文的隔离沙箱,确保会话在容器重启或升级后仍然持续,并支持多种编程代理(如 Claude Code、OpenAI Codex)在隔离环境中运行。
介绍 LiteLLM Agent Platform:基于 Kubernetes 的自托管基础设施层,用于生产环境中的隔离代理沙箱和持久会话管理
本文仅提供摘要
根据来源内容权限,本站仅提供编辑摘要、要点和原文链接。