为何AI编排应放在浏览器中

大多数AI助手目前运行在服务器端：用户通过Web应用交互，请求发送到后端，后端处理编排、代理、工具、应用逻辑以及与LLM的交互。然而，对于使用ArcGIS Maps SDK for JavaScript构建的Web地图应用，情况有所不同。这类应用在浏览器端已高度富客户端化，包含了大量运行时上下文：当前地图范围、可见与隐藏图层、渲染器与图例、选中的要素和弹出窗口、用户交互、应用状态和业务逻辑。此外，SDK还提供了丰富的客户端API和工作流，如查询、几何处理、GPU加速的WebGL渲染。

在构建Web GIS应用的AI助手时，开发团队提出了一个简单问题：“如果地图、状态和上下文已存在于浏览器中，为何还要将所有内容移至服务器运行AI？”为此，他们探索了一种新方法：在浏览器中直接运行AI编排和代理，与地图共存。

该架构围绕以下核心构建：浏览器原生编排、浏览器执行代理和工具、直接与实时地图状态交互、以及混合浏览器/服务器AI工作流。这种设计降低了额外后端编排服务的需求。

以“显示德克萨斯州的养老院”为例：请求由浏览器端编排器处理，根据可用代理能力选择数据探索代理。在向LLM发送上下文前，应用在浏览器中执行向量搜索，识别最相关的图层和字段，从而缩小上下文范围。代理随后生成查询、更新地图、高亮匹配要素，并向用户汇总结果。由于编排靠近运行时上下文，代理可直接与实时地图状态交互。

向量搜索是使浏览器原生编排实用的关键。通过嵌入向量表示，在浏览器中按语义相似度搜索最相关图层和字段，使提示更小、更聚焦、更基于实际地图。

浏览器原生编排并非全部在浏览器中运行。浏览器负责应用上下文、编排、代理和地图交互，但架构仍可使用服务器托管的模型、企业API和长期AI任务。大规模批处理、长时间工作流和敏感编排逻辑（如专有提示）可能更适合服务器端执行。

对于使用ArcGIS Maps SDK for JavaScript的Web开发者，该架构将AI工作流保留在浏览器运行时中，无需为每个工作流创建单独的后端编排服务。注册的代理和工具可直接与应用交互。由于编排、代理、工具和地图交互都是浏览器原生的，AI辅助地图应用甚至可在CodePen等环境中原型设计。

浏览器原生编排尤其适用于Web GIS，因为地图、应用状态和用户上下文已在浏览器中。这种模式不限于GIS：任何具有复杂状态、领域特定工具和交互式工作流的富浏览器应用都可能从中受益。未来趋势是混合架构：浏览器端编排与服务器托管模型、企业API及长期AI任务协同工作。