arXiv 于 2026 年 10 月 21 日发布了一篇题为《AQL-Lite: Enabling Efficient Knowledge Acquisition for Arabic LLMs via Data-Centric Continual Pretraining》的论文(编号 arXiv:2610.30344v1,属于 cs.CL 计算与语言方向,交叉 cs.LG 机器学习)。作者为 Houssam Eddine Boukhalfa 及另外两位合作者,论文共 15 页、7 幅图、10 张表,提交时间为 2026 年 10 月 21 日 19:04:28 UTC,文件约 930 KB,DOI 为 https://doi.org/10.48550/arXiv.2610.30344(由 DataCite 发放,注册尚待完成)。
研究背景方面,论文指出训练阿拉伯语大语言模型面临三重困难:网络数据噪声严重、方言差异显著(dialectal variation),以及持续预训练(continual pretraining,CPT)成本高昂。针对这些问题,作者提出 AQL-Lite(AQL 即 Arabic Quality Language)框架,目标是以时间和资源高效的方式,将多语言大模型适配到现代标准阿拉伯语(Modern Standard Arabic,MSA)。
方法上,AQL-Lite 由两部分耦合而成。其一是“质量优先”的数据整理流水线,包含结构化清洗、基于启发式规则与基于模型的过滤、MSA 语种筛选以及去重等步骤。其二是部分参数持续训练配方:在网络各处训练 RS-LoRA 适配器,同时解冻最后八个 Transformer 块与嵌入矩阵,并采用分层学习率(layer-wise learning rates)。
实验结果显示,在匹配的 10 亿 token 预算下,使用 AQL 整理数据进行 CPT 可使四项阿拉伯语基准的平均分相比原始网络文本 CPT 提升 3.51 分;而后者相对基座模型没有任何增益。在受控的 50 亿 token 对比实验中,AQL-Lite 在 52% 的实际耗时(wall-clock time)内,恢复了全参数 CPT 增益的 94%(平均分 73.19 对 73.58),并在每一项基准上均优于仅使用适配器的基线。组件消融实验表明,适配器、解冻的 Transformer 块以及嵌入训练三者各自均有贡献。
在规模扩展方面,作者将方法扩展到 400 亿 MSA token,并在 100 万条示例上进行指令微调,最终得到的 120 亿参数模型在包含七项基准的 Open Arabic LLM Leaderboard v2(OALL v2)评测套件上取得 75.3 分。论文结论认为,在精心整理语料上进行部分参数 CPT,是实现高效 MSA 适配的一条切实可行路径。读者可通过 arXiv 页面获取 PDF、实验性 HTML 版本及 TeX 源码,页面并提供音频摘要、参考文献与引用工具(如 Semantic Scholar、Google Scholar)、以及 alphaXiv、Hugging Face、CatalyzeX 等关联资源链接。