美国司法部引用AI生成的虚假案例以继续拘留ICE被拘留者

美国司法部（DOJ）在一起与移民拘留相关的案件中，被揭露引用了一个由生成式人工智能（AI）编造的虚假司法案例。此举旨在阻止一名ICE（移民和海关执法局）被拘留者挑战其保释金的自动停止程序，从而使其继续被拘留。这一事件发生在移民法官已批准该被拘留者以35,000美元保释金获释之后，但保释令被暂停以待移民上诉委员会（BIA）的裁决。

法官Hala Y. Jarbou在裁决中指出，DOJ在其回应法院的初步命令时，引用了“Taylor v. Hott”一案，声称该案例支持其关于法院缺乏管辖权的论点。然而，法官发现该案例并不存在于所引用的联邦附录页面中，且无法在任何联邦案例数据库中查到。法官认为，该引用“很可能由生成式人工智能生成”。

此案不仅涉及AI在司法系统中的滥用，还凸显了ICE和DOJ在处理移民拘留时侵犯被拘留者基本宪法权利的问题。被拘留者提起人身保护令申请，挑战保释令90天自动中止条款的合宪性，但在案件审理期间，该中止期已届满，导致申请被驳回。这一结果使得被拘留者的核心诉求未能得到实质性审理。

值得关注的是，DOJ的律师团队正在面临严重的 staffing 危机。据称自特朗普政府重新执政以来，已有超过1万名律师离开联邦政府。这种工作压力导致一些律师可能求助于 AI 工具来完成法律文件，从而导致了虚假引用的出现。此前，一名助理联邦检察官Julie Le曾因疲惫不堪，在法庭上请求法官判其藐视法庭以换取24小时的休息。然而，批评者指出，这并不能成为侵犯人身自由的借口。

法官最终仅对DOJ提出了警告，要求其确保未来提交的文件中不包含不存在的判例，而未实施制裁。对此，许多法律评论人士表示失望，认为在涉及人身自由的案件中，法官应采取更严厉的措施，如实施制裁或向伦理委员会报告，以防止此类事件再次发生。这一事件也引发了关于AI在法律实践中风险以及司法系统如何应对的广泛讨论。