这项由Jatin Bhusal与Salma Tamang完成、于2026年5月4日提交至arXiv的预印本研究(arXiv:2606.26107,属于cs.CL计算与语言,同时交叉标注cs.AI,另涉及I.2.7、I.2.10、I.2.6与K.4.2等ACM分类)提出了一套名为NEST-V1的概念验证多模态框架。论文标题为《低资源尼泊尔语口语词汇到情绪条件化手语虚拟人的多模态翻译》,其核心目标是验证从尼泊尔语语音输入直接生成带有情绪色彩的手语虚拟人动画是否可行。作者指出,当前将情绪表达纳入其中的手语交流系统仍然研究不足,对低资源语言而言尤其如此,因此这一试点工作带有明显的探索性质。
在实验设计上,研究团队刻意将范围收窄,只选取四个常用的尼泊尔语词汇——“谢谢”“你好”“房子”“我”——并分别对应高兴、中性、悲伤三种情绪状态,用这一小规模组合来检验技术路线本身是否成立。数据来自50名说话人、共600条带标注的音频样本。系统采用轻量级架构,其关键设计是使用一个共享的声学编码器,同时完成自动语音识别与情绪分类两项任务,而不是为二者分别搭建独立模型。
结果方面,该共享架构在语音识别上取得81.1%的准确率,在情绪识别上取得79.21%的准确率。论文特别强调效率:与将语音识别和情绪识别拆分为两个独立模型的方案相比,NEST-V1 的参数效率达到37%,整体模型仅有2210万个参数,规模足够小,适合在边缘设备上部署。对于需要在本地实时运行、且面向低资源语言场景的辅助沟通系统而言,这种轻量化特性是重要的现实考量。
作者将这项工作定位为后续开发的“技术基础”,而非成熟产品。他们明确表示,未来可以扩展到更大的词汇表以及更加多样化的情绪表达,并认为初步结果已经显示出面向听障群体的实时、带情绪表达的手语交流系统具备可行性。同时,论文也留下了清晰的改进空间:当前仅验证四个词、三种情绪,样本规模与说话人数量均有限,情绪条件化手语生成在更大词汇与更复杂语法下的表现尚未得到检验。
从形式上看,这是一篇15页、含5幅图和9张表的会议风格预印本,提交版本为v1,文件约788 KB,可通过DOI 10.48550/arXiv.2606.26107引用。总体而言,该研究的意义不在于给出最终系统,而在于以可复现的小规模实验证明:在低资源语言环境下,用单一轻量模型同时理解“说了什么”和“怎么说的”,并据此驱动情绪化的手语虚拟人,是一条值得继续推进的技术路径。