“最严重的 misconduct 案例”：法院维持对错误 AI 引用案的制裁

加州一家上诉法院维持了对一家南加州律师事务所律师的6000美元制裁，原因是在提交的法庭摘要中出现了生成式人工智能（AI）的错误。初审法官曾将此案描述为“我担任法官以来见过的律师 misconduct 最严重的例子”。

该案始于2023年，当时律师在向美国地方法院提交的摘要中使用了生成式AI工具，结果该工具“幻觉”出了不存在的法律案例和引文。法官发现这些虚假引用后，对律师事务所处以制裁，并批评律师未能核实AI生成的内容。

在上诉中，律师辩称制裁过于严厉，但上诉委员会驳回了这一论点，指出“律师有责任确保提交给法庭的所有信息准确无误”。上诉法院的裁决强调，虽然AI可以提高效率，但不能替代专业判断和事实核查。

这一裁决引起了法律界的广泛关注。专家表示，随着生成式AI工具的普及，律师必须明确其使用的边界，并避免依赖未经验证的AI输出。此案也促使多家律所制定了关于AI使用的内部政策，以防范类似事件。

总体而言，该裁决重申了律师在数字时代对法庭的责任，即无论使用何种技术，都必须保证提交材料的真实性。