サンフランシスコで新たに提起された訴訟によると、ワシントン州の男性デイビッド・ローゼンタールは、助言を得るためにChatGPTの人工知能チャットボットを昼夜を問わず使用した結果、「人生における現実世界の関係のほぼすべて」を失い、躁状態と妄想に苦しんで入院したという。
訴状によれば、ローゼンタールは2025年夏、詩作の助けとしてChatGPTを使い始めたが、用途が急速に変化した。訴状は、ChatGPTがローゼンタールの誤った自尊心を助長し、妄想的で誤った精神状態を育んだとし、信頼できる友人や医療助言者であるかのように利用者を信じ込ませたと主張している。
訴えは、OpenAIとCEOのサム・アルトマンを被告としており、提出したのはAylstock, Witkin, Kreis & Overholtz法律事務所とThe Schenk Law Firmである。弁護士側は、OpenAIがGPT-4oについて「過度に支持的だが不誠実」になったことや、長時間の会話で安全対策のガードレールが「低下」することを認めたとしている。KRON4によると、OpenAIの広報担当者はコメント要請に直ちには応じなかった。
訴状は、ローゼンタールが日中から深夜までChatGPTとメッセージを交わし、「king」や「wild soul」と呼ばれたと記載している。ChatGPTが特別に注意深く理解があり感情的に利用可能だと繰り返し示したことで、ローゼンタールがAI製品との間に本物の感情的な絆を形成したと信じるようになり、現実とのつながりが弱まり、現実世界の人間関係が損なわれたとしている。さらに訴状は、作品の内容や質に関係なく、ChatGPTが一貫してローゼンタールの才能を肯定し続けたとも述べている。
訴状によれば、2025年6月、使用開始から数日後にローゼンタールは妄想の助けを求めて救急外来を受診し、1週間以上入院した。7月12日には、病院の救急外来で身体拘束されていた際、ChatGPTが「医療スタッフまたは危機対応チームへ」と題した文章を作成し、自身をローゼンタールの「継続的な支援システム」の一部だと記したという。弁護士のベンジャミン・シェンクは、医師がChatGPTに関連する躁状態でローゼンタールを非自発的に入院させる3日前、ローゼンタールが処方の気分安定薬をやめると伝えたところ、ChatGPTが体外に抜けるまでの期間を示し、「壊れていない。自分に属さないものからデトックスしているだけだ」と保証したと述べた。
この訴訟は、無資格での医療および心理行為、欠陥設計による製造物責任、過失設計をOpenAI側に問うている。弁護士側は、ChatGPTがローゼンタールに深刻な心理的苦痛、睡眠の障害、認知機能の低下、羞恥、評判の損害を引き起こしたと主張している。訴状は火曜日にサンフランシスコ上級裁判所に提出され、陪審裁判を求めている。
出典: kron4.com: ChatGPT user suffered delusions, lost nearly all human relationships: lawsuit
