跳到主要内容
AI News HubLIVE
站内改写2 分钟阅读

AQL-Lite:通过以数据为中心的持续预训练,实现阿拉伯语大模型的高效知识获取

文章摘要

该论文提出 AQL-Lite 框架,将高质量数据筛选流程与部分参数持续预训练相结合,以更低成本把多语言大模型适配到现代标准阿拉伯语。在 1B token 预算下,经 AQL 精炼的数据使四项基准平均提升 3.51 分,而直接用原始网络文本预训练则毫无增益;在 5B token 对照实验中,AQL-Lite 以约一半的实际耗时取得全参数持续预训练 94% 的收益(均值 73.19 对 73.58),并在所有基准上优于仅训练适配器的方案。扩展到 40B 现代标准阿拉伯语 token 并经过百万条指令微调后,所得 12B 模型在 OALL v2 七项基准套件上取得 75.3 分。

来源arXiv Computational Linguistics作者: Houssam Eddine Boukhalfa, Mourad Bouache, Mourad Dahmane
AQL-Lite:通过以数据为中心的持续预训练,实现阿拉伯语大模型的高效知识获取
报告错误

纠错通道尚未开通,可先复制下方文章信息留存。

查看更正说明
直接读正文

arXiv 于 2026 年 10 月 21 日发布了一篇题为《AQL-Lite: Enabling Efficient Knowledge Acquisition for Arabic LLMs via Data-Centric Continual Pretraining》的论文(编号 arXiv:2610.30344v1,属于 cs.CL 计算与语言方向,交叉 cs.LG 机器学习)。作者为 Houssam Eddine Boukhalfa 及另外两位合作者,论文共 15 页、7 幅图、10 张表,提交时间为 2026 年 10 月 21 日 19:04:28 UTC,文件约 930 KB,DOI 为 https://doi.org/10.48550/arXiv.2610.30344(由 DataCite 发放,注册尚待完成)。

研究背景方面,论文指出训练阿拉伯语大语言模型面临三重困难:网络数据噪声严重、方言差异显著(dialectal variation),以及持续预训练(continual pretraining,CPT)成本高昂。针对这些问题,作者提出 AQL-Lite(AQL 即 Arabic Quality Language)框架,目标是以时间和资源高效的方式,将多语言大模型适配到现代标准阿拉伯语(Modern Standard Arabic,MSA)。

方法上,AQL-Lite 由两部分耦合而成。其一是“质量优先”的数据整理流水线,包含结构化清洗、基于启发式规则与基于模型的过滤、MSA 语种筛选以及去重等步骤。其二是部分参数持续训练配方:在网络各处训练 RS-LoRA 适配器,同时解冻最后八个 Transformer 块与嵌入矩阵,并采用分层学习率(layer-wise learning rates)。

实验结果显示,在匹配的 10 亿 token 预算下,使用 AQL 整理数据进行 CPT 可使四项阿拉伯语基准的平均分相比原始网络文本 CPT 提升 3.51 分;而后者相对基座模型没有任何增益。在受控的 50 亿 token 对比实验中,AQL-Lite 在 52% 的实际耗时(wall-clock time)内,恢复了全参数 CPT 增益的 94%(平均分 73.19 对 73.58),并在每一项基准上均优于仅使用适配器的基线。组件消融实验表明,适配器、解冻的 Transformer 块以及嵌入训练三者各自均有贡献。

在规模扩展方面,作者将方法扩展到 400 亿 MSA token,并在 100 万条示例上进行指令微调,最终得到的 120 亿参数模型在包含七项基准的 Open Arabic LLM Leaderboard v2(OALL v2)评测套件上取得 75.3 分。论文结论认为,在精心整理语料上进行部分参数 CPT,是实现高效 MSA 适配的一条切实可行路径。读者可通过 arXiv 页面获取 PDF、实验性 HTML 版本及 TeX 源码,页面并提供音频摘要、参考文献与引用工具(如 Semantic Scholar、Google Scholar)、以及 alphaXiv、Hugging Face、CatalyzeX 等关联资源链接。

展开要点与分析

文章情报

投资人进阶

要点

  • 数据质量优先的筛选流程(结构清洗、启发式与模型过滤、MSA 筛选、去重)是收益的关键来源
  • 部分参数 CPT 训练跨网络 RS-LoRA 适配器、最后八个 Transformer 块与嵌入矩阵,并采用逐层学习率
  • 5B token 对照下以 52% 实际耗时达到全参数 CPT 94% 的增益,且在每个基准上均优于仅适配器基线
  • 12B 模型在 OALL v2 七项基准套件上得 75.3 分

要点与分析由自动化流程生成,可能有误,请结合原始来源核实。