為何AI編排應放在瀏覽器中

大多數AI助手目前運行在服務器端：用户通過Web應用交互，請求發送到後端，後端處理編排、代理、工具、應用邏輯以及與LLM的交互。然而，對於使用ArcGIS Maps SDK for JavaScript構建的Web地圖應用，情況有所不同。這類應用在瀏覽器端已高度富客户端化，包含了大量運行時上下文：當前地圖範圍、可見與隱藏圖層、渲染器與圖例、選中的要素和彈出窗口、用户交互、應用狀態和業務邏輯。此外，SDK還提供了豐富的客户端API和工作流，如查詢、幾何處理、GPU加速的WebGL渲染。

在構建Web GIS應用的AI助手時，開發團隊提出了一個簡單問題：“如果地圖、狀態和上下文已存在於瀏覽器中，為何還要將所有內容移至服務器運行AI？”為此，他們探索了一種新方法：在瀏覽器中直接運行AI編排和代理，與地圖共存。

該架構圍繞以下核心構建：瀏覽器原生編排、瀏覽器執行代理和工具、直接與實時地圖狀態交互、以及混合瀏覽器/服務器AI工作流。這種設計降低了額外後端編排服務的需求。

以“顯示德克薩斯州的養老院”為例：請求由瀏覽器端編排器處理，根據可用代理能力選擇數據探索代理。在向LLM發送上下文前，應用在瀏覽器中執行向量搜索，識別最相關的圖層和字段，從而縮小上下文範圍。代理隨後生成查詢、更新地圖、高亮匹配要素，並向用户彙總結果。由於編排靠近運行時上下文，代理可直接與實時地圖狀態交互。

向量搜索是使瀏覽器原生編排實用的關鍵。通過嵌入向量表示，在瀏覽器中按語義相似度搜索最相關圖層和字段，使提示更小、更聚焦、更基於實際地圖。

瀏覽器原生編排並非全部在瀏覽器中運行。瀏覽器負責應用上下文、編排、代理和地圖交互，但架構仍可使用服務器託管的模型、企業API和長期AI任務。大規模批處理、長時間工作流和敏感編排邏輯（如專有提示）可能更適合服務器端執行。

對於使用ArcGIS Maps SDK for JavaScript的Web開發者，該架構將AI工作流保留在瀏覽器運行時中，無需為每個工作流創建單獨的後端編排服務。註冊的代理和工具可直接與應用交互。由於編排、代理、工具和地圖交互都是瀏覽器原生的，AI輔助地圖應用甚至可在CodePen等環境中原型設計。

瀏覽器原生編排尤其適用於Web GIS，因為地圖、應用狀態和用户上下文已在瀏覽器中。這種模式不限於GIS：任何具有複雜狀態、領域特定工具和交互式工作流的富瀏覽器應用都可能從中受益。未來趨勢是混合架構：瀏覽器端編排與服務器託管模型、企業API及長期AI任務協同工作。