近年來，低資源語言的自然語言處理研究取得了一定進展，但像塔吉克語這樣的小語種仍面臨數據稀缺和計算資源有限的困境。針對這一挑戰，由斯坦尼斯拉夫·利亞什科夫等六位研究者組成的團隊提出了Soro——一個專為塔吉克語設計的輕量級基礎模型和聊天機器人系列，旨在在計算和網絡連接受限的環境下實現實際部署。Soro以開源的Gemma 3模型為起點，通過僅包含塔吉克語的持續預訓練進行優化。研究團隊精心構建了一個包含19億個標記的語料庫，其中包括經過篩選的網頁文本、PDF文檔以及與課程對齊的教育材料。這些材料覆蓋了廣泛的主題，確保了模型在多種語境下的適應性。在此基礎上，他們使用4萬個塔吉克語教師風格的示例進行監督指令微調，使模型能夠更好地理解並生成符合當地教育需求的對話。該論文於2026年4月9日提交至arXiv，並引起了學術界的關注。
為了有效評估模型性能，團隊還開發了一套塔吉克語基準測試套件，涵蓋常識推理、語言能力理解以及模擬學校和大學入學考試等領域，並在Hugging Face平台上開源。實驗結果顯示，在塔吉克語基準測試中，Soro顯著優於同等規模的Gemma 3基線，同時在英語標準數據集上保持了強大的性能。這表明通過持續預訓練和指令微調，模型能夠在特定語言上獲得專門能力而不損失通用知識。此外，研究還表明，應用FP8和INT4量化後，Soro在保留大部分塔吉克語性能提升的同時，大幅降低了內存需求，使其非常適合邊緣設備部署。量化技術使得模型能夠在資源受限的設備上運行，進一步拓展了其應用場景。目前，Soro已在塔吉克斯坦的教育部門進行試點，並計劃逐步推廣到全國各學校。這一工作為低資源語言的大模型應用提供了重要的參考，也展示了開源模型在特定語言領域微調的巨大潛力。未來，研究團隊計劃進一步擴大語料規模，並探索多語言擴展的可能性。