社会的規範の学習が動的人間-AI協調における互換性を向上させる
arXivの研究によると、AIエージェントは暗黙の社会的規範を定量化しないため、人間との動的協調に失敗することが多い。研究者らは歩行者-車両インタラクション実験から、結果予測可能性、価値整合性、優位性認識の3つの原則を特定。これらをLLMに組み込むことで、閉ループタスクのスコアが約4倍に向上し、人間同士の協調を43%上回った。
arXivに投稿された研究「Learning social norms enhances compatibility in dynamic human-AI coordination」は、AIエージェントが動的対話において人間と効果的に協調できない理由を探求している。従来の手法は行動の模倣に依存するが、その背景にある暗黙の社会的規範を無視してきた。研究チームは、歩行者と車両のインタラクションを代表的な動的相互作用として選び、簡略化された実験プラットフォームを構築した。このプラットフォームは、相互作用の重要な特徴を捉えるように設計されている。収集した3,456件の人間相互作用データから、研究者らは3つの根本的な社会的規範原理を特定した：結果予測可能性（outcome predictability）、価値整合性（value alignment）、優位性認識（advantage awareness）である。結果予測可能性とは、相互作用の各当事者が相手の行動方向を予測できることを指す。価値整合性は、AIの決定が人間の価値観と一致することを要求する。優位性認識は、相互作用における相対的な優位性の認識に関わる。これらの原理をAIエージェントに組み込んだところ、閉ループタスクにおいて、社会的規範を学習したLLMはベースライン戦略の約4倍のスコアを達成し、人間同士のインタラクションを43%上回った。この成果は、暗黙の社会的規範を明示的で定量化可能な原理に形式化することで、AIが動的相互作用において相互利益を生む協調を実現できることを示している。研究者らは、このアプローチがAIの社会へのより自然な統合を支援すると述べており、将来は他の相互作用領域への拡張や、より複雑なLLMへの応用を計画している。本論文はYi Yangら7名の著者によるもので、44ページ、5つの図、補足情報を含み、2026年7月8日にarXivに投稿された。