イギリスの裁判所が「AIが偽の引用文を生成した場合は弁護士が厳しい罰則を受ける可能性がある」と警告

イングランドおよびウェールズの高等法院が、弁護士が業務においてAIを悪用することを防ぐため、より強力な措置を講じる必要があると語りました。
Lawyers could face ‘severe’ penalties for fake AI-generated citations, UK court warns | TechCrunch
https://techcrunch.com/2025/06/07/lawyers-could-face-severe-penalties-for-fake-ai-generated-citations-uk-court-warns/

イギリスで審理された「ホームレス支援をめぐる訴訟」および「融資契約にかかる管轄・打ち切り申し立て」において、弁護士がChatGPTなどのチャットAIを用いて裁判文書の作成を行うという事例が起きました。この中で、弁護士はAIが偽の判例および引用を行ったかどうかを確認することなく、裁判文書を提出した疑いがあるとして、裁判所側は弁護士らの訴訟行為を問題視しています。
「ホームレス支援をめぐる訴訟」では、弁護側は裁判文書に存在しない5件の判例を引用しました。裁判の担当判事は「完全に偽の判例を提出するとは予見できなかった。これは専門的かつ倫理的に極めて問題である」として、裁判文書を提出した弁護士に裁判費用の支払いおよび、イギリス司法・弁護士規制局への報告を命じました。ただし、弁護士はAIの使用を否定しており、訴訟では「存在しない5件の判例」がAIが生成したものか否かは断定されていません。ただし、Google検索などに表示される生成AIが作成する要約を引用した可能性があると指摘されており、AIが生成したものを未検証のまま弁護士が提出したのであれば、「重大なミスである」と判事は指摘しています。
「融資契約にかかる管轄・打ち切り申し立て」では、裁判所に提出された陳述書に記載された45件の引用文献のうち、18件が存在しないものであったことが明らかになっています。これについて、陳述書を提出した弁護士は「AIを使ったものの、誤りには気づかなかった」「意図せぬミス」と主張し、今後の改善を約束しました。これに対して、裁判所は弁護士の責任は重大であると判断し、弁護士規制局および裁判所への報告を命じています。ただし、判事はには当たらないと判断しました。

この2件の事例を取り上げたビクトリア・シャープ判事は、ChatGPTのような生成AIツールについて、「信頼できる法的調査を行うことができない」と指摘。さらに、「こうしたツールは一見すると一貫性があり、最もらしい回答を生成しますが、その回答が全くの誤りであるというケースもあります」「AIの回答は全く真実ではない、自信に満ちた偽の主張であるケースがあります」と述べ、AIに頼り切ることは間違いであると指摘。
弁護士が訴訟の準備にAIを使用することができないという意味ではないものの、弁護士に対して「専門的な業務の過程でAIを使用する前に、権威ある情報源を参照し、調査の正確性を確認する職務上の義務がある」と警告しました。
なお、イギリスの司法庁および法曹団体も、2023年から2025年にかけてAI利用に関するガイダンスを発表しており、AIが生成した内容は弁護士が自ら責任をもって検証しなければいけないと明言しています。シャープ判事はAIが生成したと思われる虚偽の内容を引用した裁判文書が増えていると指摘し、「(AI利用に関する)ガイドラインが遵守され、弁護士が裁判所に対する義務を遵守していることを確実にするために、さらなる対策を講じる必要がある」と述べました。

シャープ判事は「職務上の義務を遵守しない弁護士は厳しい制裁を受けるリスクがある」とも警告しています。