學習社會規範提升動態人機協調中的相容性
來自arXiv的一項研究指出，現有AI在與人類動態互動中常失敗，原因在於未能量化潛在的社會規範。研究者透過行人-車輛互動實驗，識別出結果可預測性、價值一致性和優勢意識三條規範原則，並將其融入大語言模型，使AI在閉環任務中總分提升近四倍，超過人類間互動43%，為AI更自然融入社會提供了新路徑。
一項最新發表於arXiv的研究《學習社會規範提升動態人機協調中的相容性》指出，當前AI代理（包括大語言模型）在與人進行動態互動時，往往無法有效、體貼且自然地協調行動。研究團隊認為，現有方法主要依靠行為模仿，卻忽略了驅動這些行為的隱性社會規範。為了驗證這一觀點，研究者選取了行人-車輛互動作為動態互動的典型場景，並開發了一套簡化的實驗平臺，該平臺能夠捕捉關鍵互動特徵。透過收集3456次動態人類互動資料，他們識別出三條構成社會規範的核心原則：結果可預測性、價值一致性和優勢意識。結果可預測性指互動各方能預期對方的行動方向；價值一致性要求AI的決策與人類的價值觀對齊；優勢意識則涉及對互動中相對優勢的感知。將這三條原則融入AI之後，在閉環人機互動任務中，基於社會規範的大語言模型取得了比基線策略高近四倍的總分，甚至比人類間互動的表現高出43%。這一顯著提升表明，將隱性社會規範形式化為可量化的原則，能夠幫助AI在動態場景中實現互惠協調。研究者強調，這項工作不僅為人機協調提供了新思路，也為AI系統更自然地融入人類社會鋪平了道路。未來，他們計劃將這一框架擴充套件到更多互動場景，並探索如何在更復雜的LLM應用中實現規範自適應。該研究的作者包括Yi Yang等七位研究人員，論文共44頁，包含5張圖表和補充資訊，已提交至arXiv，並於2026年7月8日釋出。