セッション認識型エージェントルーティング：長期的タスクのための継続性認識モデル選択

SAAR（セッション認識型エージェントルーティング）は、vLLM Semantic Routerにおけるセッション認識型モデル選択ポリシーです。21,600の決定論的ターンにおいて、モデル切り替えを79.29%削減し、3,836回の安全でない切り替えを排除し、推定物理モデルコストを78.71%削減しました。2,896のリアルAMD ROCmリクエストでは、セッションの継続性を維持し、0件の違反が観察されました。