會話感知的智能體路由：面向長週期任務的連續性感知模型選擇

SAAR（會話感知的智能體路由）是一種會話感知的模型選擇策略，專為解決長週期LLM智能體中的路由問題而設計。它通過添加路由器擁有的會話記憶、工具循環和非可移植提供者狀態的硬鎖定、安全重置邊界、前綴緩存感知的切換定價以及可重放蹤跡，將模型切換減少了79.29%，消除了3,836次不安全切換，並將估計的物理模型成本降低了78.71%。在2,896個實時AMD ROCm請求中，SAAR保持了會話連續性，觀測到0次違規。