Weblica：为视觉网页智能体打造可扩展且可复现的训练环境

苹果机器学习研究团队近期发布了 Weblica（Web Replica）框架，旨在解决视觉网页智能体训练数据规模受限的核心难题。当前主流方法要么依赖离线轨迹进行监督微调，要么使用少量模拟环境进行强化学习训练，但这些方法无法覆盖现实网页的复杂性与多样性。Weblica 通过两大关键技术突破这一瓶颈：一是 HTTP 级缓存，用于捕获并重放稳定的视觉状态，同时保留网页的交互行为；二是基于大语言模型（LLM）的环境合成，以真实网站和核心导航技能为基础，自动生成多样化的训练环境。该框架成功将强化学习训练扩展到数千个不同的环境和任务，显著提升了训练的覆盖范围与效率。

基于 Weblica 训练的最佳模型 Weblica-8B，在多个网页导航基准测试中表现优异。与同规模的开源模型相比，它不仅取得了更高的任务完成率，而且推理步数更少，计算效率更高。值得注意的是，该模型还能随着测试时计算量的增加而进一步提升性能，展现出与 API 级模型竞争的实力。

同一研究页面还介绍了另一项重要工作“重述网页”（Rephrasing the Web）。该研究指出，当前大语言模型训练依赖海量网络数据，但这些数据往往结构松散、噪声大、表述不佳。传统的缩放定律表明，学习这类数据需要大量的计算资源和数据，随着模型规模增长，这一需求变得不可持续。为此，研究团队提出通过自动重述（即对原始文本进行改写）来提升数据质量，从而在模型规模不变的情况下提高训练效率和性能。该论文已被 ACL 2024 和 ICLR 2024 研讨会接收。

两项研究共同体现了苹果在提升 AI 训练效率与可扩展性方面的持续探索，既关注智能体训练环境构建，也注重基础数据质量的优化，为未来更高效、更可靠的 AI 系统奠定了基础。