AI News HubLIVE
站内改写

LangSmith 现已在 Azure 市场中作为可交易产品推出

LangSmith 是一个用于 LLM 应用的统一 DevOps 平台,现已在 Azure 市场中作为 Azure Kubernetes 应用提供,支持在 Azure VPC 内部署,完全控制数据,并支持 MACC 信用额度。

文章情报

工程师入门

要点

  • LangSmith 现可通过 Azure 市场购买,作为 Azure Kubernetes 应用部署。
  • 数据完全保留在 Azure VPC 内,无需与第三方共享。
  • 客户可使用 Microsoft Azure 消费承诺(MACC)信用额度购买 LangSmith。
  • LangSmith 提供可观测性、评估、部署和提示管理等功能。

为什么重要

这条新闻值得关注,因为LangSmith 现可通过 Azure 市场购买,作为 Azure Kubernetes 应用部署。

技术影响

可能影响模型选型、推理成本、产品能力和评测基准。

今天我们激动地宣布,企业现在可以通过 Azure 市场购买 LangSmith 作为 Azure Kubernetes 应用。LangSmith 是一个统一的 DevOps 平台,用于开发、协作、测试和监控 LLM 应用,无论是否使用 LangChain 构建。LangSmith 已迅速成为企业将 LLM 应用从原型推向生产的首选平台,其客户包括 Moody's、Elastic、Rakuten 和 BCG,他们依靠该平台构建高质量、可扩展的生成式 AI 应用。

Moody's 机器学习总监 Han-chung Lee 表示:“作为创新和技术的领导者,Moody's 优先对我们生成式 AI 驱动的工具进行彻底测试和评估。为了创建企业级和客户信赖的应用,LangSmith 帮助我们在开发和测试阶段保持工程严谨性,使我们能够在发布前对 LLM 应用进行压力测试。这让我们在持续利用生成式 AI 解码风险、解锁机遇的使命中充满信心。”

我们很高兴深化与微软的合作,通过 Azure 市场为共同客户提供更简便的采购选项,并具备满足最严格信息安全与合规团队要求的数据安全态势。

LangSmith 的优势 通过 LangSmith 的调试、测试、监控和提示管理模块,企业客户可受益于:

  • **提高生产 LLM 应用的用户交互可见性**:LangSmith 为工程团队提供跟踪级细节,了解最终用户向 LLM 应用询问了什么以及应用如何响应。通过轻松添加最终用户反馈的轨迹,LangSmith 提供了补救和持续改进所需的可观测性,确保性能和质量的保驾护航、对话的可审计性以及在交互未达预期时的可解释性。
  • **更完整的测试覆盖以提升应用质量**:LLM 应用功能强大但具有独特特性。非确定性和不可预测的自然语言输入导致系统可能以无数种方式失败。LangSmith 重新构想了传统软件工程测试,使其更适用于 LLM。通过测试和评估模块,开发者在向最终用户交付应用前即可建立信心,及早发现回归问题并识别应用逻辑变更是否使关键指标向正确方向移动。
  • **提升应用开发速度及与领域专家的协作**:LangSmith 帮助开发者调试应用轨迹,精确定位智能体或链条出现问题的位置。同时,LangSmith 改善了开发者与领域专家(如产品经理或质量保证团队)在提示构建和标注反馈方面的协作,这些领域往往需要更多最终用户或行业知识。
  • **更清晰的 ROI 分析以做出更好的业务权衡**:构建 LLM 应用时,通常需要在质量、成本和延迟之间进行权衡。LangSmith 帮助团队运行实验,检查这三个指标,使开发者能够用数据支持选择,从而优先处理重要事项并控制支出。

通过 Azure 市场采购 LangSmith 的优势 通过 Azure 市场采购 LangSmith 时,数据将完全保留在 Azure VPC 中,部署简便且采购流程更顺畅。LangSmith 将在您的 Azure VPC 中运行,因此不会与第三方共享数据。作为监控平台,LangSmith 记录了关于最终用户对 LLM 应用的请求以及应用如何响应的大量有用信息。当您将 LangSmith 作为 Azure Kubernetes 应用购买时,整个平台将部署在您的环境中,数据不会离开您的网络,您将完全控制数据管理。此外,信息安全团队会欣赏微软团队已经审查并认证了 LangSmith 产品,并将持续对镜像进行安全漏洞扫描以确保客户数据和环境的安全。

将 LangSmith 部署到 Azure Kubernetes 服务(AKS)从未如此简单。我们将为您提供试用许可证,交易后提供生产许可证,以便将 LangSmith 及其依赖项部署到您的 AKS 或 OpenShift 集群。通过与 Azure Resource Manager(ARM)API 的深度集成,通过 Azure 市场使用 LangSmith 将易于设置和集成。您将每六周获得一次次要版本更新,并获得基础设施团队的白金级支持,协助部署、更新和持续的可扩展性维护。

您还可以使用 Microsoft Azure 消费承诺(MACC)信用额度。许多 Azure 客户依赖微软全套产品解决基础设施和开发需求。LangSmith 已满足 IP 联合销售要求,这意味着您不仅可以使用 Azure 积分购买 LangSmith,而且每花费一美元都将计入 MACC,使团队的预算审批过程更加轻松。

深化 LangChain 与微软的合作 我们持续投资于 LangChain 与 Azure AI 服务的技术合作,深度集成 Azure OpenAI、Azure AI Search、Microsoft Fabric 等。将产品合作扩展到 LangChain 的商业产品 LangSmith 的联合市场推广是自然的选择,有利于我们的客户。

如果您需要一个支持 LLM 应用全生命周期的平台,请考虑在 Azure 环境中部署 LangSmith。直接通过 Azure 市场联系我们或联系销售团队与我们的专家开始对话。我们期待与您合作。

额外资源:

  • 部署文档
  • LangSmith 概述
  • LangSmith 演示