美國司法部引用AI生成的虛假案例以繼續拘留ICE被拘留者

美國司法部（DOJ）在一起與移民拘留相關的案件中，被揭露引用了一個由生成式人工智能（AI）編造的虛假司法案例。此舉旨在阻止一名ICE（移民和海關執法局）被拘留者挑戰其保釋金的自動停止程序，從而使其繼續被拘留。這一事件發生在移民法官已批准該被拘留者以35,000美元保釋金獲釋之後，但保釋令被暫停以待移民上訴委員會（BIA）的裁決。

法官Hala Y. Jarbou在裁決中指出，DOJ在其回應法院的初步命令時，引用了“Taylor v. Hott”一案，聲稱該案例支持其關於法院缺乏管轄權的論點。然而，法官發現該案例並不存在於所引用的聯邦附錄頁面中，且無法在任何聯邦案例數據庫中查到。法官認為，該引用“很可能由生成式人工智能生成”。

此案不僅涉及AI在司法系統中的濫用，還凸顯了ICE和DOJ在處理移民拘留時侵犯被拘留者基本憲法權利的問題。被拘留者提起人身保護令申請，挑戰保釋令90天自動中止條款的合憲性，但在案件審理期間，該中止期已屆滿，導致申請被駁回。這一結果使得被拘留者的核心訴求未能得到實質性審理。

值得關注的是，DOJ的律師團隊正在面臨嚴重的 staffing 危機。據稱自特朗普政府重新執政以來，已有超過1萬名律師離開聯邦政府。這種工作壓力導致一些律師可能求助於 AI 工具來完成法律文件，從而導致了虛假引用的出現。此前，一名助理聯邦檢察官Julie Le曾因疲憊不堪，在法庭上請求法官判其藐視法庭以換取24小時的休息。然而，批評者指出，這並不能成為侵犯人身自由的藉口。

法官最終僅對DOJ提出了警告，要求其確保未來提交的文件中不包含不存在的判例，而未實施制裁。對此，許多法律評論人士表示失望，認為在涉及人身自由的案件中，法官應採取更嚴厲的措施，如實施制裁或向倫理委員會報告，以防止此類事件再次發生。這一事件也引發了關於AI在法律實踐中風險以及司法系統如何應對的廣泛討論。