司法省、ICE被拘禁者を収監し続けるためにAI生成の虚偽判例を引用

米司法省（DOJ）が、移民税関捜査局（ICE）の被拘禁者に関する訴訟において、存在しない判例を引用したことが明らかになった。この判例は、生成人工知能（AI）によって作られた可能性が高いと裁判官は指摘している。この事件は、DOJが被拘禁者の保釈金停止を巡る争いで、被拘禁者の主張を退けるために虚偽の引用を行ったものだ。

裁判官Hala Y. Jarbouは、DOJが提出した書面の中で「Taylor v. Hott」という判例が引用されていることを発見した。しかし、調査の結果、この判例は存在せず、引用された連邦付録のページには全く別の事件が掲載されていた。裁判官は「この引用は生成AIによって生成された可能性が高い」と述べた。

この事件は、AIの司法分野での誤用という問題に加え、ICEとDOJによる被拘禁者の基本的人権の侵害という別の問題も浮き彫りにしている。被拘禁者は、保釈命令の90日間自動停止条項が憲法修正第5条の適正手続き条項に違反すると主張して人身保護令状を申請したが、訴訟係属中に停止期間が満了し、申請は却下された。

DOJは現在、深刻な弁護士不足に直面している。ドナルド・トランプ前大統領の再就任以降、1万人以上の弁護士が連邦政府を去ったとされる。このような労働環境の中で、残された弁護士がAIツールに頼って書類を作成するケースが増えている可能性がある。実際、先月には疲れ果てた連邦検事補Julie Leが、裁判官に自らを法廷侮辱罪で罰するよう求めるという異例の事件も起きている。しかし、批評家は、だからといって個人の自由を侵害する言い訳にはならないと指摘する。

裁判官はDOJに対して「将来の提出書類に存在しない判例を含めないように」と警告したが、制裁は科さなかった。この対応に対しては、より厳しい措置を求める声が上がっている。この事件は、AIのリスクと司法制度の対応、そして政府機関の倫理的な責務について、広範な議論を引き起こしている。