感情表現を統合した手話コミュニケーションシステムは、特に低リソース言語においてほとんど研究されていない。最近のarXiv論文では、NEST-V1(Nepali Emotion and Speech Transformer - Version 1)と呼ばれる概念実証のマルチモーダルフレームワークが提案され、音声入力から感情条件付きのネパール手話アバターを生成する可能性が示された。
予備調査として、研究チームは4つの一般的なネパール語単語(「ありがとう」「こんにちは」「家」「私」)を3つの感情状態(幸せ、中立、悲しみ)でカバーすることに焦点を当て、中核技術のアプローチを検証した。語彙は限られているが、この取り組みは将来の拡張の基礎を築くものである。
システムは軽量アーキテクチャを採用し、共有音響エンコーダが自動音声認識(ASR)と感情分類を同時に実行する。50話者から収集した600のラベル付き音声サンプルを含むデータセットで、81.1%のASR精度と79.21%の感情認識精度を達成した。独立したモデルで両タスクを処理する場合と比較して、この共有設計は37%のパラメータ効率を実現している。
モデル全体はわずか2210万パラメータであり、エッジデバイスへの展開に非常に適しており、リアルタイムアプリケーションの可能性を開く。著者らは、これがネパール語を対象とした感情認識手話翻訳の最初の試みであり、低リソース環境における関連研究の技術的基盤を確立すると述べている。今後の課題として、語彙の拡大、感情カテゴリの増加、システム性能の更なる最適化が挙げられる。
この研究の意義は、リソースが限られた言語環境において、リアルタイムで感情豊かな手話コミュニケーションシステムを構築できる可能性を示し、聴覚障害者コミュニティに貢献できる点にある。論文は「Low Resource Multimodal Translation of Nepali Spoken Words into Emotion-Conditioned Sign Language Avatars」と題され、著者はJatin BhusalとSalma Tamang、2026年5月4日にarXivに投稿され、15ページ、5図、9表で構成されている。