本文回顧了AIES 2025會議，並概述了關於LLMs在臨牀使用和人權背景下的討論環節中的對話與演講。該文章是ACM SIAGI出版的《AI Matters》最新一期的交叉轉載。
今年的AI、倫理與社會（AIES）會議在馬德里北部IE大學的垂直校區——一座180米高的塔樓內舉行。活動以主席和組委會成員的歡迎致辭開場，同時還頒發了會議最佳論文獎。
為期三天的會議涵蓋的主題包括減輕偏見、將AI融入工作場所、評估臨牀環境中的LLMs、AI生態系統中的權力動態以及數據集創建。會議安排了兩場小組討論，第一場深入探討AI政策和治理的不同願景，第二場則聚焦AI倫理以及如何並對誰進行教學。
組織者嘗試了新的演講形式：所有演講者先進行演講，然後參與關於共同主題的聯合討論，最後回答觀眾提問。兩場主題演講分別由Miriam Fernandez和Emma Ruttkamp-Bloem主講，內容涉及“負責任AI與技術推動的性別暴力的緊迫挑戰”以及“AI倫理的未來”。
在“評估LLMs在患者自主權和人權背景下的表現”環節中，有四個有趣的演講，隨後進行了熱烈的小組討論。
Vyoma Raman提出了一個評估AI模型是否對人權構成風險的人權風險框架，借鑑了聯合國《商業與人權指導原則》。她建議組織承諾有效實施這些原則，識別用例，構建基準，並監控模型在這些基準上的表現。當被問及自主權的倫理考慮時，Vyoma提到了LLMs導致的語言同質化問題，例如單詞“delve”現在被用來指代ChatGPT使用，從而邊緣化了作為模型訓練者的尼日利亞人的詞彙。
令人驚訝的是，AI臨牀記錄員並沒有加快工作流程，反而被認為增加了工作量，侵犯了臨牀醫生的自主權，並且忽略了真正的問題——醫生倦怠。如果LLMs在這個狹窄領域無效，它們也不太可能在更復雜、高風險診斷環境中表現良好。Joshua Skorburg概述了這些侷限性，並強調了在分析隱私、偏見和透明度等倫理問題之前先考慮有效性的重要性。他後來質疑AI公司缺乏投資回報率的原因是否是因為他們要求我們圍繞AI設計世界，而不是相反。
Ria Vinod提出了在遺傳數據廣泛收集、當前法規漏洞和AI系統進步的背景下，安全有效治理遺傳數據的政策建議。遺傳數據由於其隱私風險高、可能通過他人遺傳數據被識別以及潛在危害的嚴重性，應當享有特殊的法律地位。例如，一些公司提議使用遺傳數據預測兒童的教育成就並分配學校資源，這既缺乏科學依據，又符合優生學的思路。
Rawisara Lohanimit進一步強調了生成模型對個人隱私和尊嚴的危害。她和同事系統檢查了流行的公開LAION-400M數據集，發現了懷孕超聲波圖像以及姓名和位置。在小組討論中，Rawisara強調人們分享數據時並不會考慮其可能被濫用的方式。
由AAAI/ACM聯合組織的AIES為倫理學家、AI研究人員和從業者提供了全球交流平台。AIES 2026將於明年10月12-14日在瑞典馬爾默舉行。