現代LLMと人間のEEGに共通する価値軸: 飽和規則
研究では、現代の大規模言語モデル（LLM）内部に、人間の脳波（EEG）における感情価に対応する方向（V軸）が存在することを示しています。9つの感情喚起文のみで構築されたV軸は14のLLMで一貫しており、123名の被験者のEEGデータの線形投影によって各刺激のV軸位置を追跡できます。36のEEG感情分類器はこの方向を自発的に再発見しましたが、追加の教師ありアラインメント戦略は無効であり、16もの戦略で精度が低下しました。著者はこの現象を飽和規則として形式化し、残差多様性を利用したアンサンブル手法によりFACEDデータセットで均衡精度を10.5%向上させました。
新しい研究論文では、大規模言語モデル（LLM）と人間の脳波（EEG）における感情価の共有表現について調査しています。研究者はわずか9つの感情誘発文を用いて、現代のLLMから1次元の価方向（V軸）を抽出しました。ゼロショット転送による感情ベンチマークへの適用と、14のLLM間での一貫性検証により、この方向が有効であることを確認しました。
このV軸は人間の神経活動にマッピング可能です。123名の被験者が感情的なビデオを視聴する公開EEGデータセットにおいて、EEG特徴量の単一線形射影が各ビデオのV軸位置を追跡しました。さらに注目すべきは、V軸に触れずに訓練された36のEEG感情分類器が、その内部表現で同じ方向を自発的に発見したことです。これは言語モデルと人間の電気生理学に同じ価構造が出現することを示唆しています。
しかし、この収束は効果的な訓練信号を提供しませんでした。著者らは知識蒸留、表現類似性、対照学習、トポグラフィ損失を含む25のアラインメント戦略をテストしましたが、いずれも復号性能を改善せず、16の戦略は精度を著しく低下させました。この結果は「飽和規則」として形式化されました。つまり、タスクラベルのみが脳復号ネットワークを目標方向に駆動すると、追加の監視はすでに飽和した盆地を歪めるだけで、荷重を支えるクラス内残差にはほとんど有用な勾配が与えられません。
この規則は改善の方向性も示しています。監視が到達できない残差部分空間です。この洞察に基づき、研究者は盆地を監視するのではなく、残差多様性を利用してアンサンブルを行いました。その結果、FACEDデータセットで先行最良を10.5%上回る均衡精度の向上を達成し、同じ効果がSEED-Vでも再現されました。この研究はLLMと人間の脳活動の深い関連を明らかにし、ブレイン・コンピュータ・インタフェースや感情計算に潜在的な影響を与えるものです。