Weblica：為視覺網頁智能體打造可擴展且可復現的訓練環境

蘋果機器學習研究團隊近期發佈了 Weblica（Web Replica）框架，旨在解決視覺網頁智能體訓練數據規模受限的核心難題。當前主流方法要麼依賴離線軌跡進行監督微調，要麼使用少量模擬環境進行強化學習訓練，但這些方法無法覆蓋現實網頁的複雜性與多樣性。Weblica 通過兩大關鍵技術突破這一瓶頸：一是 HTTP 級緩存，用於捕獲並重放穩定的視覺狀態，同時保留網頁的交互行為；二是基於大語言模型（LLM）的環境合成，以真實網站和核心導航技能為基礎，自動生成多樣化的訓練環境。該框架成功將強化學習訓練擴展到數千個不同的環境和任務，顯著提升了訓練的覆蓋範圍與效率。

基於 Weblica 訓練的最佳模型 Weblica-8B，在多個網頁導航基準測試中表現優異。與同規模的開源模型相比，它不僅取得了更高的任務完成率，而且推理步數更少，計算效率更高。值得注意的是，該模型還能隨着測試時計算量的增加而進一步提升性能，展現出與 API 級模型競爭的實力。

同一研究頁面還介紹了另一項重要工作“重述網頁”（Rephrasing the Web）。該研究指出，當前大語言模型訓練依賴海量網絡數據，但這些數據往往結構鬆散、噪聲大、表述不佳。傳統的縮放定律表明，學習這類數據需要大量的計算資源和數據，隨着模型規模增長，這一需求變得不可持續。為此，研究團隊提出通過自動重述（即對原始文本進行改寫）來提升數據質量，從而在模型規模不變的情況下提高訓練效率和性能。該論文已被 ACL 2024 和 ICLR 2024 研討會接收。

兩項研究共同體現了蘋果在提升 AI 訓練效率與可擴展性方面的持續探索，既關注智能體訓練環境構建，也注重基礎數據質量的優化，為未來更高效、更可靠的 AI 系統奠定了基礎。