“最嚴重的 misconduct 案例”：法院維持對錯誤 AI 引用案的制裁

加州一家上訴法院維持了對一家南加州律師事務所律師的6000美元制裁，原因是在提交的法庭摘要中出現了生成式人工智慧（AI）的錯誤。初審法官曾將此案描述為“我擔任法官以來見過的律師 misconduct 最嚴重的例子”。

該案始於2023年，當時律師在向美國地方法院提交的摘要中使用了生成式AI工具，結果該工具“幻覺”出了不存在的法律案例和引文。法官發現這些虛假引用後，對律師事務所處以制裁，並批評律師未能核實AI生成的內容。

在上訴中，律師辯稱制裁過於嚴厲，但上訴委員會駁回了這一論點，指出“律師有責任確保提交給法庭的所有資訊準確無誤”。上訴法院的裁決強調，雖然AI可以提高效率，但不能替代專業判斷和事實核查。

這一裁決引起了法律界的廣泛關注。專家表示，隨著生成式AI工具的普及，律師必須明確其使用的邊界，並避免依賴未經驗證的AI輸出。此案也促使多家律所制定了關於AI使用的內部政策，以防範類似事件。

總體而言，該裁決重申了律師在數字時代對法庭的責任，即無論使用何種技術，都必須保證提交材料的真實性。