近日，來自RightNow AI的研究團隊發佈了RightNow-Arabic-0.5B-Turbo，這是一個專為阿拉伯語優化的開源大型語言模型，參數量僅518M。該模型基於Qwen2.5-0.5B構建，通過創新的詞彙注入技術，在原有詞表中新增了27,032個阿拉伯語token，顯著提升了對阿拉伯語的理解和生成能力。
訓練過程包括在504M阿拉伯語token上進行持續預訓練，採用FSDP、FlashAttention varlen packing和Liger fused kernel等高效技術，隨後在129,116對阿拉伯語指令數據上進行監督微調，並結合6,750對偏好數據進行直接偏好優化（DPO）。最後，通過權重湯（weight soup）方法合併三個檢查點，進一步提升了模型性能。
在阿拉伯語基準測試中，該模型在COPA-ar、Arabic HellaSwag和ArabicMMLU上取得了35.9%的平均準確率，超越了所有同參數量級的開源模型。值得關注的是，在COPA-ar任務上，它以1/3的參數量達到了與Falcon-H1-1.5B相同的58.4%準確率，並以1/18的參數量實現了SILMA-9B模型67%的性能。
該模型特別注重邊緣部署能力。通過量化（q4_k_m），模型大小壓縮至398 MB，在單塊NVIDIA H100 GPU上以batch size 1運行時，推理速度可達635 tokens/s，非常適合資源受限的環境。
研究團隊已完全開源所有內容，包括代碼（25個腳本共5,555行）、權重（bf16、int8及四種GGUF量化格式）和基準測試腳本，可在Hugging Face上獲取。這一工作填補了中小規模阿拉伯語專用模型的空白，為阿拉伯語AI應用的普及提供了高效且易部署的解決方案。