BatchDAG: エンタープライズデータのスケーラブルなアドホック分析のためのLLM計画実行グラフ
BatchDAGは、LLMが操作の有向非巡回グラフ(DAG)を生成するシステムで、エンティティ認識バッチ処理によりLLM呼び出しを最大47倍削減し、エキスパートパイプラインやReActエージェントを上回る品質と来歴を実現します。
大規模言語モデル(LLM)は個々のドキュメントの分析に優れていますが、エンタープライズ規模のデータセットに対する網羅的でエンティティ横断的な分析クエリでは、コンテキストオーバーフロー、エンティティごとの帰属の喪失、逐次ツール呼び出しによる線形レイテンシのために性能が低下します。この課題を解決するために、BatchDAGが提案されました。このシステムでは、LLMがSQLクエリ、セマンティック検索、インメモリ変換、並列ファンアウト、単発分析などの操作からなる型付き有向非巡回グラフ(DAG)を生成します。決定論的エンジンがトポロジカルウェーブ並列性と構造化JSONデータフローを用いてDAGを評価し、効率的でスケーラブルな実行を実現します。
BatchDAGの主要な最適化は、エンティティ認識バッチ処理です。これはファンアウト前に論理エンティティごとに行をグループ化し、LLM呼び出しを最大47倍削減します。この最適化により推論コストが大幅に低下し、大規模データセットの処理が可能になります。BatchDAGは主に手動最適化パイプラインに対する精度向上ではなく、複数の手動設計ワークフローを単一のシステムで置き換える汎用オーケストレーションレイヤーであり、自然言語から適切な実行戦略を生成します。
12の転写集約型クエリを用いた制御実験では、BatchDAG(3.74/5)はエキスパート設計パイプライン(3.25/5)と同等の品質を達成し、ReActエージェント(3.09/5、p<0.01)を有意に上回りました。さらに、BatchDAGは優れた来歴を示し、転写エビデンス率77%(ベースライン46-60%)を達成しました。制御されたアブレーション研究では、構造化JSON中間表現が散文要約と比較して幻覚を27%削減しました(対応のあるt検定、p=0.107、n=12)。プランナーは300回のプランニング呼び出しで98.8%の有効DAG率を達成し、高い信頼性を示しました。
本番環境では、Brevian.aiでBatchDAGが5万件以上のミーティングレコードに対するクエリを60秒未満で処理し、公開されているGPT-5.1価格で1クエリあたり0.02~0.24ドルのコストを実現しています。これにより、BatchDAGは分析品質を向上させるだけでなく、運用コストを大幅に削減し、エンタープライズデータ分析に効率的で経済的なソリューションを提供します。