本文回顾了AIES 2025会议，并概述了关于LLMs在临床使用和人权背景下的讨论环节中的对话与演讲。该文章是ACM SIAGI出版的《AI Matters》最新一期的交叉转载。
今年的AI、伦理与社会（AIES）会议在马德里北部IE大学的垂直校区——一座180米高的塔楼内举行。活动以主席和组委会成员的欢迎致辞开场，同时还颁发了会议最佳论文奖。
为期三天的会议涵盖的主题包括减轻偏见、将AI融入工作场所、评估临床环境中的LLMs、AI生态系统中的权力动态以及数据集创建。会议安排了两场小组讨论，第一场深入探讨AI政策和治理的不同愿景，第二场则聚焦AI伦理以及如何并对谁进行教学。
组织者尝试了新的演讲形式：所有演讲者先进行演讲，然后参与关于共同主题的联合讨论，最后回答观众提问。两场主题演讲分别由Miriam Fernandez和Emma Ruttkamp-Bloem主讲，内容涉及“负责任AI与技术推动的性别暴力的紧迫挑战”以及“AI伦理的未来”。
在“评估LLMs在患者自主权和人权背景下的表现”环节中，有四个有趣的演讲，随后进行了热烈的小组讨论。
Vyoma Raman提出了一个评估AI模型是否对人权构成风险的人权风险框架，借鉴了联合国《商业与人权指导原则》。她建议组织承诺有效实施这些原则，识别用例，构建基准，并监控模型在这些基准上的表现。当被问及自主权的伦理考虑时，Vyoma提到了LLMs导致的语言同质化问题，例如单词“delve”现在被用来指代ChatGPT使用，从而边缘化了作为模型训练者的尼日利亚人的词汇。
令人惊讶的是，AI临床记录员并没有加快工作流程，反而被认为增加了工作量，侵犯了临床医生的自主权，并且忽略了真正的问题——医生倦怠。如果LLMs在这个狭窄领域无效，它们也不太可能在更复杂、高风险诊断环境中表现良好。Joshua Skorburg概述了这些局限性，并强调了在分析隐私、偏见和透明度等伦理问题之前先考虑有效性的重要性。他后来质疑AI公司缺乏投资回报率的原因是否是因为他们要求我们围绕AI设计世界，而不是相反。
Ria Vinod提出了在遗传数据广泛收集、当前法规漏洞和AI系统进步的背景下，安全有效治理遗传数据的政策建议。遗传数据由于其隐私风险高、可能通过他人遗传数据被识别以及潜在危害的严重性，应当享有特殊的法律地位。例如，一些公司提议使用遗传数据预测儿童的教育成就并分配学校资源，这既缺乏科学依据，又符合优生学的思路。
Rawisara Lohanimit进一步强调了生成模型对个人隐私和尊严的危害。她和同事系统检查了流行的公开LAION-400M数据集，发现了怀孕超声波图像以及姓名和位置。在小组讨论中，Rawisara强调人们分享数据时并不会考虑其可能被滥用的方式。
由AAAI/ACM联合组织的AIES为伦理学家、AI研究人员和从业者提供了全球交流平台。AIES 2026将于明年10月12-14日在瑞典马尔默举行。