現代のAIシステムは、大規模言語モデル（LLM）によって駆動されるエージェントと、従来の計算モジュールによって駆動されるエージェントが相互に作用するワークフローにますます依存するようになっている。このようなハイブリッドアーキテクチャは能力を向上させる一方で、レイテンシ、信頼性、コストの間の複雑なトレードオフをもたらす。arXivに最近投稿された論文「Toward Reliable Design of LLM-Enabled Agentic Workflows: Optimizing Latency-Reliability-Cost Tradeoffs」は、この問題を体系的に分析している。著者はYa-Ting YangとQuanyan Zhuで、2026年4月21日に提出され、cs.AIとcs.SEの交叉領域に属する。
論文の中心的な貢献は、LLMエージェントと非LLMエージェントのそれぞれに対して性能モデルを構築した点にある。LLMエージェントについては、パラメトリック指数信頼性関数を採用し、推論トークンと出力トークンの数と出力品質を関連付けることで、計算投入と結果の信頼性の関係を捉える。このモデル化により、研究者はトークン予算が各エージェントの成功率にどのように影響するかを定量化できる。
その上で著者らは、逐次ワークフローの設計問題を研究し、与えられたレイテンシとコストの制約下でワークフロー全体の信頼性を最大化することを目指す。主要な結果として、各エージェントの限界利益に応じてトークン資源を動的に配分するウォーターフィリング型トークン配分ポリシーが導出されている。これは通信システムにおける電力配分の考え方に類似している。さらに、シャドウプライスを用いて最適なワークフロー信頼性を特徴づけ、レイテンシとコストの制約がシステム信頼性に与える限界的影響を明らかにしている。
これらの結果は、LLMを活用したエージェントワークフローの設計と最適化に理論的枠組みを提供し、実展開において開発者が応答速度、システム信頼性、運用コストのバランスを取るための合理的な資源配分決定を支援する。論文のモデルと結論は、大規模でマルチエージェント協調型のAIアプリケーション構築にとって重要な指針となる。