シュナイダーエレクトリックがLangSmithでエンタープライズLLMOps基盤を構築した方法

シュナイダーエレクトリック（Schneider Electric）は、持続可能性を推進するグローバルエネルギー技術リーダーであり、16万人の従業員と約400億ユーロの年間収益を誇ります。同社は350人の専門家からなる内部AIハブを運営し、エネルギー消費の最適化、資産寿命の延長、開発者生産性の向上を目的とした60以上のAIエージェントを展開しています。

大規模なAI展開において、データレジデンシー、サイバーセキュリティ、品質管理の課題に直面したシュナイダーは、LangSmithとLangChainエコシステムを基盤にLLMOps能力を構築しました。そのアプローチは可観測性、評価、展開の3本柱で構成されています。

可観測性：セルフホスト型LangSmith、製品ごとに独立したワークスペース

シュナイダーはAWS EKS上でLangSmithをセルフホストし、企業セキュリティ境界内に統合することでデータプライバシーとコンプライアンスを確保しました。重要な設計判断は、各AI製品に1つのワークスペースを割り当て、開発、QA、ステージング、本番の全環境を包含することです。これにより、本番トレースを開発データセットに直接フィードバックでき、オフライン評価が可能になります。例えば、内部AIアシスタント「One Jo」は16万人の従業員にサービスを提供し、107カ国で展開されています。すべての会話はLangSmithでトレースされ、本番データは回帰テストやパフォーマンス監視に活用されています。

評価：オフライン、オンライン、そして成熟度フレームワーク

評価体制は3つの側面から成ります。まず、オフライン評価アクセラレーターとして、LangSmith SDKベースの軽量CLIとAgentic RAGテンプレートを提供し、実験プロセスを標準化。次に、LLMOps成熟度モデルを策定し、各AI製品の計装、評価スイート、ユーザーフィードバックの状況を自動レポートで可視化。最後に、ドメイン専門家（SME）を評価プロセスに組み込み、約20%のAI製品でアクティブなアノテーションキューが運用されています。カスタマーサクセスマネージャー（CSM）コパイロットでは、SMEが開発初期からアノテーションとフィードバックを提供し、品質向上に貢献しました。

展開：製品ごとに独立したランタイム

シュナイダーはLangSmith Deploymentのリファレンスアーキテクチャを採用し、各AI製品に専用のランタイム（PostgresとRedisを備えたエージェントサーバー）を割り当てています。「自分で構築したものは自分で運用する」という原則に基づき、単一障害点を回避。この設計は管理負荷を増やす一方、障害の影響を個別のユースケースに限定します。デジタルエネルギー部門の文書処理エージェントは、顧客の見積もり依頼文書を分析し、平均処理時間15分強で、従来数時間から数日かかっていた業務を数分に短縮しました。

成果と教訓

LangChainとのパートナーシップを通じ、シュナイダーは60以上のAI製品を展開し、約200人のアクティブなLangSmithユーザーを抱えています。得られた教訓として、LLMOps基盤は本番品質に不可欠であること、独自フレームワークよりも標準機能を活用すべきこと、セルフホストは堅牢だが運用コストがかかること、技術導入は容易だが組織全体の採用が鍵となることが挙げられます。今後はランタイム管理の簡素化と成熟度フレームワークの自動化を進める予定です。