エッジでの生成推論の展開は、二つの現実的な課題に直面している。一つは、デバイスごと、モデルごとのパフォーマンスが展開時に不明であることが多い点、もう一つは、ユーザー駆動のセマンティックイベント、バックグラウンド負荷、デバイスの入れ替わりによって性能が非定常である点だ。その結果、固定された状況下でオフラインで調整されたリソースマネージャーは、脆く保守コストが高くなる可能性がある。この問題に対処するため、本論文では、エッジ人工知能生成コンテンツ(AIGC)リソース管理のための実行可能で進化するエージェントである $E^3$-Agent を提案する。
$E^3$-Agent の中心的な設計は、高速パスと低速パスの分離にある。高速パスはルーターであり、ミリ秒レベルでディスパッチ決定を行い、遅延に敏感なタスクが迅速に処理されることを保証する。低速パスはイベント駆動型の大規模言語モデル(LLM)メタコントローラーであり、ツールインターフェースを介して公開される小さな明示的制御面を通じて、環境状態の変化を緩和する。この制御面には、リスクゲーティング、ルーター設定、迅速なパフォーマンスキャリブレーションなどが含まれる。このようにして、エージェントは実行フィードバックからオンラインで学習し、未知で時変のサービス時間マッピングに継続的に適応する。
$E^3$-Agent の有効性を評価するため、著者らは MLPerf 由来のデバイス-モデル測定プライアに基づく離散イベントシミュレーターで実験を行った。このシミュレーターは、コールドスタートのウォームアップと、セマンティックダイナミクス、デバイスチャーン、隠れたドリフトという三つの動的シナリオをカバーしている。実験結果は、さまざまな動的シナリオにおいて、最良の静的ベースラインと比較して $E^3$-Agent が平均レイテンシを65%から73%削減し、評価に使用されたオンライン完全情報Oracleとの差を7%から10%以内に保つことを示している。さらに、セマンティック劣化の下でも、$E^3$-Agent はスタッター率を効果的に抑制する。
本論文は Rui Bao ら7名の著者によって執筆され、13ページ、4図、6表からなり、2026年5月21日に投稿された。主題は機械学習(cs.LG)である。この研究は、エッジ生成推論のリソース管理に対して、オンライン適応能力を持つソリューションを提供し、オフライン調整への依存を減らし、動的環境での顕著な性能優位性を示している。