本日 Interrupt で、私たちはエージェント開発ライフサイクルを加速するための多数の新製品と機能を発表しました。中には、チームが自ら構築するのに数四半期かかるインフラを処理するものもあります。また、破損した箇所を発見し、原因を理解し、自動的に修正を出荷するのに役立つものもあります。以下が発表内容です。
LangSmith Engine
これまで、エージェントの改善は、トレースを読み、パターンを探し、評価を書き、修正を作成するという手動プロセスでした。LangSmith Engine は、そのループを自動的に実行する自律エージェントです。プロダクションのトレースを監視し、障害を名前付き問題にクラスタリングし、コードに対して根本原因を診断し、修正と評価カバレッジを提案して、回帰が再発しないようにします。ユーザーは改善をレビューしてマージするだけです。
エンジンが発見した問題ごとに、以下が可能です:
- 対象を絞ったコードまたはプロンプト修正を含む PR を開く。
- 問題にスコープされたカスタムオンライン評価器を作成し、再発が自動的に再浮上するようにする。
- 失敗したトレースをグラウンドトゥルースの例としてオフライン評価スイートに追加する。
Engine は LangSmith の既存のトレースおよび評価インフラ上に構築されているため、チームが既に実行しているワークフローにプラグインできます。Cogent と Campfire はこれを使用して、数千のトレースに影響する問題を解決しています。現在、パブリックベータ版で利用可能です。
SmithDB
SmithDB は、エージェントの可観測性のために特別に構築されたデータベースで、現在はコアの LangSmith ワークロードを支えています。エージェントのトレースは、深くネストされたスパン、長時間実行される操作、数時間かけて断片的に到着するイベントにより、ボリュームとサイズが爆発的に増加しています。それらを分析するために必要なクエリパターン(ランダムアクセス、インタラクティブフィルタリング、全文検索、JSON フィルタリング、ツリー対応クエリ、スレッド再構築、集計)には、根本的に新しいアーキテクチャが必要です。
SmithDB は Rust で構築され、Apache DataFusion と Vortex をベースとし、オブジェクトストレージによる永続的なトレースデータ、小さな Postgres メタストア、ステートレスな取り込み、クエリ、コンパクションサービスを備えています。
パフォーマンス:コアの LangSmith エクスペリエンスで最大 15 倍の高速化、P50 トレースツリー読み込みは 92ms、P50 単一実行読み込みは 71ms。
移植性:オブジェクトストレージベースでステートレスなため、コンピューティングを追加することでスケールし、従来のデータベースクラスタよりもセルフホスト型およびマルチクラウド環境での実行がはるかに容易です。
エージェントネイティブなクエリパターン:長時間実行されるスパン、複数イベントの実行、大規模ペイロード、全文検索、サブ秒レイテンシでの JSON フィルタリング向けに設計。
Managed Deep Agents
Managed Deep Agents は、開発者に LangSmith で深層エージェントを作成、実行、運用するための API ファーストのホスティングランタイムを提供します。オープンソースの Deep Agents ハーネスをベースに構築されており、計画、ツール使用、サブエージェントへの委任、ファイル書き込み、長期間にわたる作業が可能なエージェントをサポートし、チームが独自のエージェントサーバーを立ち上げたり、エージェントごとにランタイムインフラを再構築したりする必要はありません。
この製品は、永続的な実行、永続的なコンテキスト、ツールアクセス、サンドボックスコード実行、および運用時の可視性を必要とするエージェント向けに設計されています。開発者は、使い慣れた Deep Agents プロジェクト構造を使用してエージェントを定義し、/v1/deepagents API を介してプログラムで管理し、LangSmith ですべての実行を検査できます。
主な機能:
- API を介した深層エージェントの作成、更新、管理、実行のためのマネージドランタイム。
- 長時間実行タスク向けの永続スレッド、ストリーミング実行、チェックポイント、ヒューマンインザループワークフロー。
- AGENTS.md、skills/、subagents/、tools.json をサポートするエージェントコンテキストとファイル。
- 実行間でエージェントメモリ、運用ノート、ユーザー設定、プロジェクトコンテキストを保持・更新するための Context Hub。
- コード、シェルコマンド、ファイル I/O、データ分析、またはアーティファクト生成を必要とするエージェント向けのサンドボックス実行。
LangSmith Sandboxes 一般提供開始
LangSmith Sandboxes は、エージェント向けの安全なコード実行環境です。エージェントにファイルシステム、シェル、パッケージマネージャー、永続状態、ネットワーク境界を備えたランタイムを提供するため、コードの作成、依存関係のインストール、テストの実行、障害の調査、長時間のセッションにわたる作業の継続が可能です。
各サンドボックスはハードウェア仮想化された microVM で実行され、サービスや他のサンドボックスから隔離されています。この隔離は、モデル生成コード、外部依存関係、またはユーザー提供スクリプトを実行するエージェントにとって特に重要です。
サンドボックスは、チームが既に使用している同じ LangSmith SDK と API キーを介して動作するため、チームは Deep Agents、Open SWE、LangSmith Deployment、LangSmith Fleet、またはカスタムエージェントワークフローに安全なコード実行を追加するために、ランタイム層を自分で構築する必要はありません。
GA リリースのハイライト:
- スナップショットと安価なフォーク:サンドボックスをキャプチャするか、Docker イメージからビルドし、コピーオンライトを使用してその状態から並列サンドボックスをフォークします。
- ブループリント:リフレッシュ可能なベース環境を定義し、新しいサンドボックスが新鮮な依存関係、リポジトリ状態、ウォームキャッシュで起動するようにします。
- 非アクティブ時の一時停止:アイドル状態のサンドボックスは自動的に一時停止され、未使用リソースのコストを回避します。
- Sandbox CLI:サンドボックスの管理、スナップショットのビルド、コンソールのオープン、TCP トンネリング、ssh、scp、rsync、sftp などのツールの使用が可能。
- カスタムコールバック付き Auth Proxy:ネットワークレイヤーで資格情報を注入し、シークレットがランタイムに侵入しないようにし、カスタムシークレット解決、監査フック、ドメイン許可/拒否リストをサポート。
Context Hub
LangSmith Context Hub は、エージェントの動作を形成するファイル(AGENTS.md ファイル、スキル、ポリシー、例、その他のエージェントが読み取り従うコンテキストバンドル)を管理するための中央の場所をチームに提供します。
コンテキストは、ハーネスコードとは異なる方法で管理されることがよくあります。チームが指示を洗練し、例を更新し、ポリシーを追加し、何が機能するかを学ぶにつれて、急速に変化します。また、デザイナー、マーケター、サポートリーダー、プロダクトマネージャー、コンプライアンスチームなどのさまざまな分野の専門家によって形成されます。Context Hub はそのワークフローを LangSmith に取り込み、チームがすべてを GitHub に強制することなくエージェントコンテキストで協力できるようにします。
主な機能:
- バージョン管理:コンテキストファイルの変更を追跡し、以前のバージョンを検査し、必要に応じてロールバック。
- タグ:dev、staging、prod などのラベルでバージョンをマークし、エージェントが適切な環境で適切なコンテキストを使用できるようにします。
- コメント:コンテキスト変更についてチームメンバーと直接コラボレーション。
Context Hub により、チームはコンテキストをエージェントシステムの第一級の部分として扱い、エージェントの動作を決定する指示、例、ポリシーを管理するための共有ワークフローを持つことができます。
LangSmith LLM Gateway
LangSmith LLM Gateway は、エージェントとそれらが呼び出す LLM プロバイダーの間に位置する新しいランタイムガバナンス層です。リクエストが環境を離れる前に支出制限を強制し、機密データを検出し、すべてのポリシーイベントは、それをトリガーしたトレースとともに直接 LangSmith に流れます。個別のダッシュボードや監査パイプラインを立てる必要はありません。
ベータ版には、組織、ワークスペース、ユーザー、API キーレベルでのハード支出上限とリアルタイムコスト集計、リクエストとレスポンスの両方に対する PII と機密情報の編集、階層化ポリシー実行、管理アクションの完全な監査ログが含まれています。セットアップは base_url の変更だけです。LangSmith API キーを使用してエージェントをゲートウェイエンドポイントにポイントし、プロバイダーキーをワークスペースシークレットに追加し、UI でポリシーを設定します。
現在プライベートベータ版で提供中:
- 組織、ワークスペース、ユーザー、または API キーレベルでのハード支出上限。上限に達すると 402 を返します。
- ワークスペース、ユーザー、API キー別のリアルタイム支出可視性。
- リクエストとレスポンスから機密データを検出し、モデルまたはトレースに到達する前に編集する PII および機密情報検出。
- ゲートウェイを経由した呼び出しが残りのトレースと同じワークスペースに着地するトレース継続性。
- ポリシーイベントをトリアージ用に表示し、ワンクリックで基になるトレースにドリルダウンできる LangSmith Engine 統合。
- 管理アクションごとの監査ログ。別途パイプラインを立てる必要なし。
LangSmith Fleet の新機能
サンドボックス
Fleet には、公開ベータ版のサンドボックスアクセスが含まれるようになり、エージェントにコードを記述して実行する安全な場所が提供されます。これにより、Fleet エージェントの機能がツールの呼び出しを超えて拡張されます。データの分析、ファイルの変換、PDF や PPTX などの形式の生成または編集、シェルコマンドの実行、依存関係のインストール、タスクに実際の実行環境が必要な場合のコーディングエージェントのような作業が可能になります。
各サンドボックスは、LangSmith Sandboxes をバックエンドとして、エージェントに分離されたファイルシステムとコマンド環境を提供します。Fleet では、サンドボックスはチャットスレッドまたはエージェントにスコープできるため、エージェントはスレッド間で同じ環境を再利用したり、チャットごとに同じコンピュータを再利用したりできます。アイドルサンドボックスにはデフォルトのソフト TTL が 15 分あり、非アクティブセッションの継続コストを回避しながら効率的なエクスペリエンスを維持し、サンドボックスの内容を破壊しません。
サンドボックスにより、Fleet エージェントはより複雑な作業を処理できます。
- データ分析:データセット上でコードを実行し、入力を変換し、構造化出力を生成。
- ファイル生成と変換:PDF、スプレッドシート、スライドデッキなどのファイルの作成、編集、マージ、検証、変換。
- コーディングタスク:問題の再現、ファイルの編集、依存関係のインストール、テストの実行。
- ローカルツールと CLI:コマンドラインツールまたはローカル MCP サーバーを使用して、まだ一次的な Fleet 統合がないサービスにアクセス。
- プリビルドコーディングエージェント:スレッド全体でファイル、コマンド、状態を持つ永続ワークスペースを必要とするエージェントを強化。
プリビルドエージェント
Fleet エージェントテンプレートを拡張し、LangChain チームが日常的に使用している 5 つのプリビルドエージェントを追加しています。これらのエージェントは、複数のツールとアクティビティにまたがる複雑で長時間実行される作業を処理します。中には、同様のコンセプトで企業全体が構築されたほど洗練されたものもあります。これらはすべて、Fleet に標準で無料で付属しています。
最初のテンプレートをリリースして以来、カスタマイズこそが汎用エージェントと真に価値を提供するエージェントを区別するものであることを学びました。そのため、すべてのプリビルドエージェントには、ユーザーのコンテキストに適合するために必要な詳細を尋ねるオンボーディングフローが含まれるようになりました。たとえば、GTM エージェントは、業界、製品、顧客について質問し、アカウントの調査方法や外部コミュニケーションのドラフト方法を形成します。その後、エージェントを使用してフィードバックを提供することで、さらに洗練します。
新しいプリビルドエージェント:
- コーディングエージェント(Open SWE ベース):リポジトリに接続し、変更の草案から PR の作成まで、コーディングタスクをエンドツーエンドで処理。
- GTM エージェント:顧客の健全性や使用状況に関するアドホックな質問に答え、問題をフラグし、外部コミュニケーションをドラフト。セールスおよびマーケティングチームの右腕。
- X コンテンツマネージャー:ビジネスに関連するトピックについて X を監視し、レビュー用の投稿をドラフトし、ビジネスにとって重要な会話に参加するのに役立ちます。
- エグゼクティブアシスタント:受信トレイのトリアージ、スケジューリング、会議の準備を処理し、ユーザーが判断を必要とする作業に集中できるようにします。
[AI コスト管理のため、テキストは切り詰められています]