「最も悪質な不正行為」：裁判所、誤ったAI引用に対する制裁を支持

カリフォルニア州の控訴裁判所は、南カリフォルニアの法律事務所の弁護士らに対して課された6000ドルの制裁を支持する判断を下しました。この制裁は、生成人工知能（AI）の誤りを含む法廷書類を提出したことに起因します。第一審裁判官は、この事件を「私が裁判官に就任して以来、目にした中で最も悪質な弁護士の不正行為の例」と述べました。

事件は2023年に遡ります。弁護士らが連邦地方裁判所に提出した準備書面において、生成AIツールを使用したところ、存在しない判例や引用を「幻覚」として出力したのです。裁判官はこれらの虚偽の引用を発見し、法律事務所に制裁を科し、弁護士らがAI生成内容を確認しなかったことを批判しました。

控訴審で弁護士側は制裁が過酷だと主張しましたが、控訴審委員会はこれを退け、「弁護士には法廷に提出する全ての情報の正確性を確保する責任がある」と指摘しました。控訴裁判所の判断は、AIが効率性を向上させる一方で、専門的判断や事実確認の代わりにはならないことを強調しています。

この判決は法律界で広く注目を集めています。専門家は、生成AIツールの普及に伴い、弁護士はその使用範囲を明確にし、未検証のAI出力に依存することを避けるべきだと述べています。この事件をきっかけに、多くの法律事務所がAI使用に関する内部方針を策定し、同様の事態を防止しようとしています。

全体として、この判決はデジタル時代における弁護士の法廷に対する責任、すなわちどのような技術を使用する場合でも提出資料の真実性を保証する責任を再確認するものとなりました。