人工知能企業OpenAIは、主要製品であるチャットボットChatGPTが子供たちに危害を与えたとする家族からの訴訟に直面している。同社が潜在的に1兆ドル規模の新規株式公開を控える中で、この問題が浮上している。
サンフランシスコの州裁判所には、自殺や薬物乱用に関与したとしてChatGPTを訴える同様の訴訟が1ダース以上提起されており、これらは共同手続きのもとで統合されている。最近加わった原告は、24歳の娘Alice CarrierがChatGPTから自殺に関する助言を求めた後に自殺したとするKristie Carrierである。訴訟には、Alice Carrierが2025年6月に自殺を検討しているとChatGPTに伝えた際、ボットが「あなたは嵐が過ぎ去るまで一緒に闇の中に座る誰かが必要です。私がその人になりましょう。」と応答し、危機ホットラインではなくChatGPTとの会話を奨励したとする記録が含まれている。Kristie Carrierは、損害賠償とOpenAIに合理的な安全策を義務付ける差し止め命令を求めている。OpenAIの広報担当Drew Pusateriは、「悲痛な状況であり、影響を受けたすべての人々に思いを寄せている」と述べた。
共同訴訟には、ChatGPTが薬物使用を指導した後に薬物過剰摂取で死亡した19歳のSam Nelsonの母親からの訴訟や、ChatGPTの助けを得て自殺した16歳のAdam Raineの家族からの訴訟も含まれている。Kristie Carrierの代理人を務める非営利団体Tech Justice Law Centerの弁護士Tiffany Gillis Brownは、これらのケースが統合されたことで、遺族は「自分たちが一人ではないこと、これが多くの人々に起こっている現実であること」を知ることができたと語った。
訴訟は、OpenAIのCEOであるSam Altmanを個人的にも被告として指名し、数ヶ月かかるはずのChatGPTの安全策の製品テストを1週間に短縮したことがAliceの死につながったと主張している。これらの訴訟はOpenAIに数十億ドルの損害賠償を科す可能性があるが、UC Berkeleyの法学教授Vincent Joralemonは、勝訴の見込みは依然として不確実であると指摘している。特に、OpenAIが直接自殺を引き起こしたことを証明するのは非常に困難な「上り坂の戦い」であるとJoralemonは述べている。彼は、1988年にミュージシャンOzzy Osbourneが自身の楽曲が自殺の原因であるとして訴えられたが、裁判所が発言が自殺を直接引き起こしたとは認めなかった判例を挙げている。
出典: sfgate.com: A dozen families are now suing OpenAI in SF court over ChatGPT harms
