カリフォルニア州の弁護士が、AIツールChatGPTによって生成された偽の引用を含む書類を州裁判所に提出したことで、1万ドルの罰金を科された。弁護士アミール・モスタファビは、2023年7月にAIを使用して控訴を提出し、23の引用のうち21が偽りであると判明した。モスタファビは、AIが引用を作成することを知らなかったと述べている。
この出来事は、AIの法律業界での使用に対する警鐘とされ、カリフォルニア州の司法当局はAI規制の検討を進めている。カリフォルニアの司法評議会は、裁判所スタッフに対しAIの使用禁止を推奨しており、カリフォルニア弁護士会も行動規範の強化を検討している。
AIが捏造する偽の法律引用の増加が懸念されており、専門家は問題が悪化する可能性があると警鐘を鳴らしている。AIの進化が弁護士教育のペースを超えているとされ、特に負担の多い弁護士や家族裁判で増加傾向にあるという。
出典：California issues historic fine over lawyer’s ChatGPT fabrications
