本文にスキップ
AI News HubLIVE
サイト内リライト2 分で読了

$E^3$-Agent:エッジ生成推論のリソース管理のための実行可能で進化するエージェント

記事の要約

本論文は、エッジAIGCリソース管理のための実行可能で進化するエージェント $E^3$-Agent を提案する。高速パスルーターと低速パスのLLMメタコントローラーを分離し、オンライン学習で動的環境に適応する。シミュレーションでは、最良の静的ベースラインと比較して平均レイテンシを65%~73%削減し、オンライン完全情報Oracleとの差を7%~10%以内に抑えた。

ソースarXiv Machine Learning著者: Rui Bao, Yaping Sun, Zhiyong Chen, Feng Yang, Meixia Tao, Nan Li, Wenjun Zhang
$E^3$-Agent:エッジ生成推論のリソース管理のための実行可能で進化するエージェント
誤りを報告

訂正窓口はまだ利用できません。記事情報をコピーして保存できます。

訂正案内
本文へ

エッジでの生成推論の展開は、二つの現実的な課題に直面している。一つは、デバイスごと、モデルごとのパフォーマンスが展開時に不明であることが多い点、もう一つは、ユーザー駆動のセマンティックイベント、バックグラウンド負荷、デバイスの入れ替わりによって性能が非定常である点だ。その結果、固定された状況下でオフラインで調整されたリソースマネージャーは、脆く保守コストが高くなる可能性がある。この問題に対処するため、本論文では、エッジ人工知能生成コンテンツ(AIGC)リソース管理のための実行可能で進化するエージェントである $E^3$-Agent を提案する。

$E^3$-Agent の中心的な設計は、高速パスと低速パスの分離にある。高速パスはルーターであり、ミリ秒レベルでディスパッチ決定を行い、遅延に敏感なタスクが迅速に処理されることを保証する。低速パスはイベント駆動型の大規模言語モデル(LLM)メタコントローラーであり、ツールインターフェースを介して公開される小さな明示的制御面を通じて、環境状態の変化を緩和する。この制御面には、リスクゲーティング、ルーター設定、迅速なパフォーマンスキャリブレーションなどが含まれる。このようにして、エージェントは実行フィードバックからオンラインで学習し、未知で時変のサービス時間マッピングに継続的に適応する。

$E^3$-Agent の有効性を評価するため、著者らは MLPerf 由来のデバイス-モデル測定プライアに基づく離散イベントシミュレーターで実験を行った。このシミュレーターは、コールドスタートのウォームアップと、セマンティックダイナミクス、デバイスチャーン、隠れたドリフトという三つの動的シナリオをカバーしている。実験結果は、さまざまな動的シナリオにおいて、最良の静的ベースラインと比較して $E^3$-Agent が平均レイテンシを65%から73%削減し、評価に使用されたオンライン完全情報Oracleとの差を7%から10%以内に保つことを示している。さらに、セマンティック劣化の下でも、$E^3$-Agent はスタッター率を効果的に抑制する。

本論文は Rui Bao ら7名の著者によって執筆され、13ページ、4図、6表からなり、2026年5月21日に投稿された。主題は機械学習(cs.LG)である。この研究は、エッジ生成推論のリソース管理に対して、オンライン適応能力を持つソリューションを提供し、オフライン調整への依存を減らし、動的環境での顕著な性能優位性を示している。

要点と分析を開く

記事インテリジェンス

エンジニア上級

要点

  • $E^3$-Agentはミリ秒レベルのルーティングとイベント駆動型LLMメタコントローラーを分離し、リアルタイム性と適応性を両立する。
  • リスクゲーティング、ルーター設定、迅速なパフォーマンスキャリブレーションを含む小さな制御面をツールインターフェース経由で公開する。
  • セマンティックダイナミクス、デバイスチャーン、隠れたドリフトの各シナリオで、最良の静的ベースラインと比べて平均レイテンシを65%~73%削減し、オンラインOracleの7%~10%以内に迫る。

要点と分析は自動生成され、誤りを含む場合があります。原典をご確認ください。

$E^3$-Agent:エッジ生成推論のリソース管理のための実行可能で進化するエージェント | AI News Hub