AIによる統治に対する司法の警鐘

2026年5月、連邦裁判所はトランプ政権の人工知能に対する野望に冷水を浴びせる画期的な判決を下した。アメリカ学術団体協議会対国立人文基金（American Council of Learned Societies v. National Endowment for the Humanities）事件は、政府効率化省（DOGE）によるNEH助成金の大量取消しに関わるものである。事件の詳細には衝撃的な事実が含まれていた。DOGEの若い職員2名が、数百の助成金説明をChatGPTに入力し、「これはDEI（多様性、公平性、包摂性、アクセシビリティ）に何ら関係するか？」というプロンプトを与えたのである。ChatGPTは奇妙な結果を出力した。例えば、北東部の捕鯨博物館への助成金が、その博物館が「包摂的でインパクトのある体験を創出する」ことを目的としているとしてDEI関連と判定された。さらに悪質なことに、多くの取消しは助成金説明が特定の人種や性別に言及したことのみに基づいていた。コルファックス虐殺に関するドキュメンタリーへの助成金は「黒人の公民権に大きな影響を与えた歴史的出来事を探求する」として打ち切られた。DOGEはChatGPTの出力をそのまま採用し、1,400以上の助成金を取消しの根拠とした。

裁判所はDOGEの行為を複数の点で違憲とした。好ましくない思想との関連を理由に資金を打ち切ることは修正第一条に違反し、特定の人種や性別への言及を理由に助成金を取消すことは平等保護の約束に反する。裁判所は特に、DOGEとChatGPTの対話の率直さが政府の差別的意図を明らかにしたと指摘した。「ユーザーは明示的にチャットボットに差別を要求し、チャットボットはそれに従った」と判決は述べている。政府はChatGPTの出力が単なる「文脈」に過ぎないと主張したが、裁判所は「DOGEがAIツールを選択し、プロンプトを策定し、終了の基準を定義した」として、政府の責任を認めた。

この事件の重要な教訓は、LLMは道具であり、賢明にも無責任にも使用できるということだ。LLMは生成的であり、文章や回答、理由を生成するため、機関はLLMをあたかも意思決定者であるかのように扱う誘惑に駆られる。しかし、裁判所は明確に、そのような外部委託は機能しないと述べた。LLMは不適切で誤ったことを言いがちであり、誤った指示に抵抗するのが苦手である。規制の決定をそのような道具に委ねることは明白な問題を引き起こす。

しかし、これは規制当局がLLMを責任を持って使用できないという意味ではない。LLMは、関連文献のレビュー、特定の問題に関する競合する見解の明確化、規制草案の弱点の特定、法的・政策的分析の草稿作成など、多くのタスクに適している可能性がある。重要なのは、機関がその強みを活かし、弱点に対する保護策を備えたプロセスを設計することである。これには、LLMの既知の制限について職員を訓練し、お世辞や幻覚を軽減するプロトコルを開発し、責任ある当局者がその作業を意味のある形でレビュー・検証できることを確保することが含まれる。Learned Societies判決は、政府によるAI使用のための「やってはいけない事」の手引きとして役立つはずだ。

LLMは連邦行政において重要な応用が確実にされるが、適切な保護策がなければならない。Learned Societiesは、規制上の意思決定をLLMに外部委託する計画は誤りであり、少なくとも機能しないだろうという警鐘である。