跳到主要内容
AI News HubLIVE
站内改写2 分钟阅读

低资源尼泊尔语口语到情感条件手语虚拟人的多模态翻译

文章摘要

NEST-V1框架将尼泊尔语语音转换为带情感的手语虚拟人,在600个样本上实现81.1%的语音识别准确率和79.21%的情感识别准确率,模型仅2200万参数,适合边缘部署。

来源arXiv Computational Linguistics作者: Jatin Bhusal, Salma Tamang
低资源尼泊尔语口语到情感条件手语虚拟人的多模态翻译
报告错误

纠错通道尚未开通,可先复制下方文章信息留存。

查看更正说明
直接读正文

这项由Jatin Bhusal与Salma Tamang完成、于2026年5月4日提交至arXiv的预印本研究(arXiv:2606.26107,属于cs.CL计算与语言,同时交叉标注cs.AI,另涉及I.2.7、I.2.10、I.2.6与K.4.2等ACM分类)提出了一套名为NEST-V1的概念验证多模态框架。论文标题为《低资源尼泊尔语口语词汇到情绪条件化手语虚拟人的多模态翻译》,其核心目标是验证从尼泊尔语语音输入直接生成带有情绪色彩的手语虚拟人动画是否可行。作者指出,当前将情绪表达纳入其中的手语交流系统仍然研究不足,对低资源语言而言尤其如此,因此这一试点工作带有明显的探索性质。

在实验设计上,研究团队刻意将范围收窄,只选取四个常用的尼泊尔语词汇——“谢谢”“你好”“房子”“我”——并分别对应高兴、中性、悲伤三种情绪状态,用这一小规模组合来检验技术路线本身是否成立。数据来自50名说话人、共600条带标注的音频样本。系统采用轻量级架构,其关键设计是使用一个共享的声学编码器,同时完成自动语音识别与情绪分类两项任务,而不是为二者分别搭建独立模型。

结果方面,该共享架构在语音识别上取得81.1%的准确率,在情绪识别上取得79.21%的准确率。论文特别强调效率:与将语音识别和情绪识别拆分为两个独立模型的方案相比,NEST-V1 的参数效率达到37%,整体模型仅有2210万个参数,规模足够小,适合在边缘设备上部署。对于需要在本地实时运行、且面向低资源语言场景的辅助沟通系统而言,这种轻量化特性是重要的现实考量。

作者将这项工作定位为后续开发的“技术基础”,而非成熟产品。他们明确表示,未来可以扩展到更大的词汇表以及更加多样化的情绪表达,并认为初步结果已经显示出面向听障群体的实时、带情绪表达的手语交流系统具备可行性。同时,论文也留下了清晰的改进空间:当前仅验证四个词、三种情绪,样本规模与说话人数量均有限,情绪条件化手语生成在更大词汇与更复杂语法下的表现尚未得到检验。

从形式上看,这是一篇15页、含5幅图和9张表的会议风格预印本,提交版本为v1,文件约788 KB,可通过DOI 10.48550/arXiv.2606.26107引用。总体而言,该研究的意义不在于给出最终系统,而在于以可复现的小规模实验证明:在低资源语言环境下,用单一轻量模型同时理解“说了什么”和“怎么说的”,并据此驱动情绪化的手语虚拟人,是一条值得继续推进的技术路径。

展开要点与分析

文章情报

工程师进阶

要点

  • 共享声学编码器同时进行语音识别和情感分类,参数效率比独立模型高37%。
  • 在50位说话人的600个标注音频样本上达到81.1% ASR准确率和79.21%情感识别准确率。
  • 模型仅2200万参数,适合边缘设备实时部署。
  • 初步验证了低资源环境下情感感知手语翻译的可行性。

要点与分析由自动化流程生成,可能有误,请结合原始来源核实。