学习社会规范提升动态人机协调中的兼容性
来自arXiv的一项研究指出，现有AI在与人类动态交互中常失败，原因在于未能量化潜在的社会规范。研究者通过行人-车辆交互实验，识别出结果可预测性、价值一致性和优势意识三条规范原则，并将其融入大语言模型，使AI在闭环任务中总分提升近四倍，超过人类间互动43%，为AI更自然融入社会提供了新路径。
一项最新发表于arXiv的研究《学习社会规范提升动态人机协调中的兼容性》指出，当前AI代理（包括大语言模型）在与人进行动态交互时，往往无法有效、体贴且自然地协调行动。研究团队认为，现有方法主要依靠行为模仿，却忽略了驱动这些行为的隐性社会规范。为了验证这一观点，研究者选取了行人-车辆交互作为动态互动的典型场景，并开发了一套简化的实验平台，该平台能够捕捉关键交互特征。通过收集3456次动态人类交互数据，他们识别出三条构成社会规范的核心原则：结果可预测性、价值一致性和优势意识。结果可预测性指交互各方能预期对方的行动方向；价值一致性要求AI的决策与人类的价值观对齐；优势意识则涉及对交互中相对优势的感知。将这三条原则融入AI之后，在闭环人机交互任务中，基于社会规范的大语言模型取得了比基线策略高近四倍的总分，甚至比人类间互动的表现高出43%。这一显著提升表明，将隐性社会规范形式化为可量化的原则，能够帮助AI在动态场景中实现互惠协调。研究者强调，这项工作不仅为人机协调提供了新思路，也为AI系统更自然地融入人类社会铺平了道路。未来，他们计划将这一框架扩展到更多交互场景，并探索如何在更复杂的LLM应用中实现规范自适应。该研究的作者包括Yi Yang等七位研究人员，论文共44页，包含5张图表和补充信息，已提交至arXiv，并于2026年7月8日发布。