AIエージェントの速度とエネルギー効率の向上

エージェンティックワークフローは、複数のモデルと外部ツールを連鎖させて複雑なタスク（動画分析と質問応答など）を実行するAI搭載ソフトウェアシステムです。しかし、これらの高度に断片化されたシステムの設計・展開方法は、計算、エネルギー、コストの無駄を引き起こすことがよくあります。

効率を改善するため、MITとマイクロソフトの研究者は、エージェントワークフローの設計プロセスを合理化し、その実装を自動最適化するインテリジェントシステム「Murakkab」を開発しました。開発者はワークフローに何をさせたいかを平易な言葉で記述するだけで、システムが最適なモデルとツール、理想的なハードウェア構成とクラウドプロバイダーによる実行時の計算リソース割り当てを自動的に決定します。

Murakkabは各ユーザーの優先順位（コスト最小化や速度最大化など）に基づいて構成をリアルタイムで調整します。複数のエージェントワークロードでテストした結果、従来手法と比較して、展開に必要な計算ユニット数を約65%削減し、エネルギー消費を約73%、コストを75%以上削減し、性能を損ないませんでした。

「エージェンティックワークフローは非常に複雑化しており、クラウドプロバイダーの基盤となりつつあります。エネルギー使用は大きな懸念事項であり、これらのワークフローがいかに効率的であるかに注意を払う必要があります。リソースを過剰に割り当てるとエネルギーとお金の無駄になります。クラウドプロバイダーがこれらのワークフローをインテリジェントにリソース最適化できるようにすることは、関係者全員にとってメリットがあります」と、論文の筆頭著者でMITの電気工学・コンピュータ科学大学院生Gohar Chaudhry氏は述べています。

従来、開発者はすべての技術的選択を事前にハードコードする必要がありました。Murakkabは開発者が高レベルの意図（例えば「動画からキーフレームを抽出し、文字起こしを生成し、ユーザーの質問に答える動画Q&Aアプリ」）を記述するだけで、システムが最適な既存モデルとツールを自動識別し、逐次・並列実行を決定し、新しいモデルやアクセラレータに動的に対応します。

クラウドプロバイダーがアプリケーションを展開する際、Murakkabはユーザーの制約（遅延や精度など）を満たすようにハードウェア割り当てとスケジューリングを最適化します。テストでは、動画Q&Aタスクで精度が約2%低下しただけでエネルギー消費を一桁削減しました。研究者は今後、より複雑なワークフローや大規模クラスターにシステムを拡張し、新しいエージェントアプリケーションの最適化を模索する予定です。