AI News HubLIVE
站内改写

LangSmith が Azure Marketplace でトランザクション可能なオファリングとして提供開始

LLM アプリケーション向けの統合 DevOps プラットフォームである LangSmith が、Azure Marketplace で Azure Kubernetes アプリケーションとしてトランザクション可能になりました。Azure VPC 内でのデプロイ、完全なデータ制御、MACC クレジットのサポートを提供します。

記事インテリジェンス

エンジニア中級

要点

  • LangSmith が Azure Marketplace で Azure Kubernetes アプリケーションとして購入可能に。
  • データは顧客の Azure VPC 内に完全に保持され、第三者と共有されることはありません。
  • Microsoft Azure Consumption Commitment (MACC) クレジットを利用して LangSmith を購入できます。
  • LangSmith は可観測性、評価、デプロイ、プロンプト管理のモジュールを提供します。

重要な理由

このニュースが重要なのは、LangSmith が Azure Marketplace で Azure Kubernetes アプリケーションとして購入可能にためです。

技術的影響

モデル選定、推論コスト、プロダクト能力、評価基準に影響する可能性があります。

本日、企業が Azure Marketplace で LangSmith を Azure Kubernetes アプリケーションとして購入できるようになったことを発表できることを嬉しく思います。LangSmith は、LLM アプリケーションの開発、コラボレーション、テスト、監視のための統合 DevOps プラットフォームであり、LangChain の有無にかかわらず利用できます。LangSmith は、企業が LLM アプリケーションをプロトタイプから本番環境に移行するためのプラットフォームとして急速に選ばれるようになっており、Moody's、Elastic、Rakuten、BCG などの顧客が、スケーラブルで高品質な生成 AI アプリケーションを構築するためにこのプラットフォームを利用しています。

Moody's の機械学習ディレクター、Han-chung Lee 氏は次のように述べています。「イノベーションとテクノロジーのリーダーとして、Moody's は生成 AI を活用したツールの徹底的なテストと評価を優先しています。企業と顧客にとって信頼性の高いアプリケーションを作成するために、LangSmith は開発とテストの段階全体でエンジニアリングの厳格さを維持し、リリース前に LLM アプリケーションをストレステストすることを可能にします。これにより、リスクを解明し機会を引き出すというミッションにおいて、生成 AI を活用し続ける自信が得られます。」

Microsoft とのコラボレーションを強化し、Azure Marketplace を通じて共同顧客に調達オプションを提供できることを嬉しく思います。これにより、最も厳しい情報セキュリティおよびコンプライアンス要件を満たすデータセキュリティ体制を実現します。

LangSmith の利点 LangSmith のデバッグ、テスト、監視、プロンプト管理モジュールを通じて、エンタープライズ顧客は以下のメリットを得られます:

  • **本番 LLM アプリケーションとのユーザーインタラクションの可視性向上**:LangSmith はエンジニアリングチームに、エンドユーザーが LLM アプリケーションに何を求め、アプリがどのように応答しているかについてのトレースレベルの詳細を提供します。エンドユーザーフィードバックでトレースを簡単に拡張できるため、LangSmith は是正と継続的改善に必要な可観測性を提供し、パフォーマンスと品質、会話の監査可能性、期待を下回った場合の説明可能性を保証します。
  • **アプリケーション品質向上のためのより完全なテストカバレッジ**:LLM アプリケーションは強力ですが、特異な特性を持っています。非決定性と予測不可能な自然言語入力により、システムが失敗する方法は無数にあります。LangSmith は従来のソフトウェアエンジニアリングテストを LLM に適したものに再構築します。テストと評価モジュールを使用することで、開発者はエンドユーザーに出荷する前にアプリケーションのパフォーマンスに自信を持つことができ、回帰を発見し、アプリケーションロジックの変更が主要な指標を正しい方向に動かしているかどうかを特定できます。
  • **アプリケーション開発速度の向上と専門家とのコラボレーション**:LangSmith は開発者がアプリケーションのトレースをデバッグし、エージェントやチェーンがどこで問題を起こしているかを特定するのに役立ちます。また、プロンプトの構築やラベリングフィードバックにおいて、プロダクトマネージャーや品質保証チームなどの専門家とのコラボレーションを改善します。
  • **より明確な ROI 分析によるビジネストレードオフの最適化**:LLM アプリケーションを構築する際、品質、コスト、レイテンシーの間でトレードオフが発生します。LangSmith はチームがこれらの指標に関連する実験を実行し、データに基づいた選択を可能にするため、重要な優先順位付けと支出管理に役立ちます。

Azure Marketplace 経由での LangSmith 調達の利点 Azure Marketplace で LangSmith を購入すると、データは Azure VPC 内に完全に保持され、デプロイが容易になり、調達プロセスがスムーズになります。LangSmith は Azure VPC 内で実行されるため、データが第三者と共有されることはありません。監視プラットフォームとして、LangSmith はエンドユーザーが LLM アプリケーションに何を求め、アプリがどのように応答しているかに関する膨大な有用な情報を記録します。LangSmith を Azure Kubernetes アプリケーションとして購入すると、プラットフォーム全体がお客様の環境にデプロイされ、データがネットワーク外に出ることはなく、データ管理を完全に制御できます。さらに、Microsoft チームがすでに LangSmith 製品を審査・認定し、お客様のデータと環境を保護するためにイメージのセキュリティ脆弱性スキャンを継続的に実行しているため、情報セキュリティチームも安心です。

Azure Kubernetes Service (AKS) への LangSmith のデプロイはこれまで以上に簡単になりました。試用ライセンスを提供し、取引後には本番ライセンスを提供して、LangSmith とその依存関係を AKS または OpenShift クラスターにデプロイできます。Azure Resource Manager (ARM) API との深い統合により、Azure Marketplace 経由の LangSmith はセットアップと統合が簡単です。6 週間ごとにマイナーリリースを受け取り、インフラチームによるホワイトグローブサポートでデプロイ、更新、継続的なスケーラビリティメンテナンスを支援します。

また、Microsoft Azure Consumption Commitment (MACC) クレジットを利用できます。多くの Azure 顧客は、インフラストラクチャと開発のニーズを満たすために Microsoft の製品スイート全体に依存しています。LangSmith は IP コセールの要件を満たしているため、Azure クレジットを使用して LangSmith を購入できるだけでなく、LangSmith に費やした 1 ドルごとに MACC に充当され、チームの予算承認プロセスが容易になります。

LangChain と Microsoft のコラボレーションのさらなる発展 私たちは、Azure OpenAI、Azure AI Search、Microsoft Fabric などとの深い統合を備えた、LangChain と Azure AI サービスの技術連携への投資を継続しています。製品連携を LangChain の商用製品である LangSmith の共同 Go-To-Market に拡張することは、両社の顧客にとって自然な流れでした。

LLM アプリケーションライフサイクル全体をサポートするプラットフォームをお探しなら、Azure 環境にデプロイされた LangSmith をご検討ください。Azure Marketplace から直接お問い合わせいただくか、営業チームに連絡してエキスパートとの会話を開始してください。ご連絡をお待ちしています。

追加リソース:

  • デプロイメントドキュメント
  • LangSmith 概要
  • LangSmith デモ