AIES 2025 からの考察

本記事では、AIES 2025を振り返り、臨床使用と人権の文脈における大規模言語モデル（LLM）に関する議論セッションでの会話と発表を概説します。これは、ACM SIAGIが発行する『AI Matters』の最新号からのクロスポストです。

今年の人工知能、倫理、社会に関する会議（AIES）は、マドリード北部のIE大学の垂直キャンパスを形成する高さ180メートルのタワーブロックで開催されました。イベントは、議長と組織委員会メンバーによる歓迎の挨拶で始まり、このオープニングセッションでは会議の最優秀論文賞の授与も行われました。

3日間にわたるイベントで取り上げられたトピックには、バイアスの軽減、職場へのAIの統合、臨床環境でのLLMの評価、AIエコシステムにおけるパワーダイナミクス、データセットの作成などが含まれていました。プログラムには2つのパネルディスカッションが含まれており、最初のパネルではAI政策とガバナンスの競合するビジョン、2番目のパネルではAI倫理と、それがどのように、そして誰に教えられるべきか（そしておそらく教えられるべきか）に焦点が当てられました。

主催者は、発表形式に新しい方法を試しました。各セッションのすべての発表者が講演を行い、その後共通テーマに関する共同討論に参加し、最後に聴衆からの質問に答えるという形式です。Miriam FernandezとEmma Ruttkamp-Bloemによる2つの基調講演は、それぞれ「責任あるAIとテクノロジーが促進するジェンダーに基づく暴力の緊急の課題」と「AI倫理の未来」をカバーしました。

「患者の自律性と人権の文脈におけるLLMの評価」セッションでは、4つの興味深い発表があり、その後活発なパネルディスカッションが行われました。

Vyoma Ramanは、国連の「ビジネスと人権に関する指導原則」に基づき、AIモデルが人権にリスクをもたらすかどうかを評価するための人権リスクフレームワークを発表しました。これらの原則を効果的に実施する組織には、ユースケースの特定、ベンチマークの構築、それらのベンチマークでのモデルパフォーマンスの監視を提案しました。自律性の倫理的考慮について尋ねられたとき、VyomaはLLMによる言語的同質性を挙げました。例えば、「delve」という単語は現在ChatGPTの使用を示すようになり、多くのモデルトレーナーを代表するナイジェリア人の語彙を周縁化しています。

驚くべきことに、AI臨床記録作成ツールはワークフローを加速させず、むしろ作業を増やし、臨床医の自律性を侵害し、根本的な問題である医師の burnout を見逃していると認識されています。LLMがこの狭い領域で機能しない場合、より複雑でリスクの高い診断設定でもうまく機能する可能性は低いです。Joshua Skorburgはこれらの限界を概説し、プライバシー、バイアス、透明性の倫理を分析する前に、有効性を考慮することの重要性を強調しました。彼は後に、AI企業がROIを欠いている理由は、私たちにAI中心の世界を設計するよう要求しているからではないかと疑問を呈しました。

Ria Vinodは、広範な遺伝データ収集、現在の規制のギャップ、AIシステムの進歩を踏まえ、遺伝データの安全で効果的なガバナンスのための政策提言を行いました。遺伝データは、プライバシーに対する高いリスク、他人の遺伝データによって本人が特定される可能性、潜在的な害の深刻さから、特別な法的地位に値します。例えば、一部の企業は遺伝データを使用して子供の教育達成度を予測し、学校にリソースを割り当てることを提案していますが、これは科学的に根拠がなく、優生学の流れを汲むものです。

Rawisara Lohanimitは、生成モデルが個人のプライバシーと尊厳にもたらす危険性をさらに強調しました。この研究で、彼女と同僚は人気のある公開データセットLAION-400Mを体系的に調査し、妊娠超音波画像と名前や場所を発見しました。パネルディスカッションで、Rawisaraは人々がデータを共有する際に、それがどのように悪用されるかを考慮していないと強調しました。

AAAI/ACMが共催するAIESは、倫理学者、AI研究者、AI実践者がアイデアを交換するためのグローバルな会合の場を提供します。AIES 2026は、来年10月12～14日にスウェーデンのマルメで開催されます。