大規模言語モデル(LLM)の性能は、学習データの質と多様性に大きく依存しています。しかし、高品質なデータは希少であり、入手コストも高額です。データ合成は有力な代替手段として注目され、クローズドなタスクでは成功を収めてきました。一方で、人文・社会科学(HSS)の分野はこれまで軽視されており、そのタスクは開放的で主観的な性質を持つため、合成が難しいとされてきました。このような研究ギャップに対して、Ru Peng氏を含む12人の研究者は、HSSに特化した初のデータ合成パイプライン「HSS-Synth」を提案しました。
研究チームは、従来の「能力中心」で断片的な試みを離れ、「科目中心」のパラダイムを採用しています。彼らは14の主要分野をカバーする初のHSS領域体系を定義し、その上でHSS-Synthを構築しました。このパイプラインは3つの主要な構成要素からなります。第一に、Webコーパスから多段階のフィルタリングとテキスト精錬を経てシード文書を構築し、判定モデルによって品質を評価します。第二に、「要件+ペルソナ」を指定してシード文書をバックトランスレーションし、多様でありながら忠実な指示を生成します。その際、厳格なQ&A整合性チェックを実施し、生成された指示が元の意味から逸脱しないようにします。第三に、教師強制による回答生成を採用し、応答生成時にシード文書をモデルに入力することで、意味を固定し、幻覚を減らし、文体と内容の整合性を保ちます。
このパイプラインにより、23.7万件の高品質で多様な指示チューニング用サンプルが生成されました。実験では、これらのデータで微調整したQwen3-8B-Baseが16のベンチマークで14の主要ベースラインを上回り、この規模のモデルとしては新しいSOTAを達成しました。その性能は公式のQwen3-8Bに非常に近く、人間の好みと知識能力の両方が向上し、従来しばしば見られた「性能のシーソー現象」(ある能力の向上が別の能力の低下を招くこと)は発生しませんでした。さらに、大規模な実験を通じて、HSS-Synthの頑健性と転移可能性が実証されています。
本論文は2026年7月29日にarXivへ投稿され(arXiv:2607.27379)、ACL Findings 2026に採録されました。研究チームはコードをhttps://github.com/pengr/HSS-Synthで公開しており、コミュニティでの再現やさらなる研究の基盤となることが期待されます。