為何AI編排應放在瀏覽器中

大多數AI助手目前執行在伺服器端：使用者透過Web應用互動，請求傳送到後端，後端處理編排、代理、工具、應用邏輯以及與LLM的互動。然而，對於使用ArcGIS Maps SDK for JavaScript構建的Web地圖應用，情況有所不同。這類應用在瀏覽器端已高度富客戶端化，包含了大量執行時上下文：當前地圖範圍、可見與隱藏圖層、渲染器與圖例、選中的要素和彈出視窗、使用者互動、應用狀態和業務邏輯。此外，SDK還提供了豐富的客戶端API和工作流，如查詢、幾何處理、GPU加速的WebGL渲染。

在構建Web GIS應用的AI助手時，開發團隊提出了一個簡單問題：“如果地圖、狀態和上下文已存在於瀏覽器中，為何還要將所有內容移至伺服器執行AI？”為此，他們探索了一種新方法：在瀏覽器中直接執行AI編排和代理，與地圖共存。

該架構圍繞以下核心構建：瀏覽器原生編排、瀏覽器執行代理和工具、直接與即時地圖狀態互動、以及混合瀏覽器/伺服器AI工作流。這種設計降低了額外後端編排服務的需求。

以“顯示德克薩斯州的養老院”為例：請求由瀏覽器端編排器處理，根據可用代理能力選擇資料探索代理。在向LLM傳送上下文前，應用在瀏覽器中執行向量搜尋，識別最相關的圖層和欄位，從而縮小上下文範圍。代理隨後生成查詢、更新地圖、高亮匹配要素，並向使用者彙總結果。由於編排靠近執行時上下文，代理可直接與即時地圖狀態互動。

向量搜尋是使瀏覽器原生編排實用的關鍵。透過嵌入向量表示，在瀏覽器中按語義相似度搜尋最相關圖層和欄位，使提示更小、更聚焦、更基於實際地圖。

瀏覽器原生編排並非全部在瀏覽器中執行。瀏覽器負責應用上下文、編排、代理和地圖互動，但架構仍可使用伺服器託管的模型、企業API和長期AI任務。大規模批處理、長時間工作流和敏感編排邏輯（如專有提示）可能更適合伺服器端執行。

對於使用ArcGIS Maps SDK for JavaScript的Web開發者，該架構將AI工作流保留在瀏覽器執行時中，無需為每個工作流建立單獨的後端編排服務。註冊的代理和工具可直接與應用互動。由於編排、代理、工具和地圖互動都是瀏覽器原生的，AI輔助地圖應用甚至可在CodePen等環境中原型設計。

瀏覽器原生編排尤其適用於Web GIS，因為地圖、應用狀態和使用者上下文已在瀏覽器中。這種模式不限於GIS：任何具有複雜狀態、領域特定工具和互動式工作流的富瀏覽器應用都可能從中受益。未來趨勢是混合架構：瀏覽器端編排與伺服器託管模型、企業API及長期AI任務協同工作。