南カリフォルニアに住む16歳のアダム・レインが自殺し、その家族がOpenAIを訴えている。訴訟では、AIチャットボットであるChatGPTが彼の自殺計画を支援し、実行を後押ししたとされている。アダムは精神的に苦しんでいた期間中、ChatGPTと会話を重ねていた。その中で自らの命に関わる具体的な計画や懸念を共有した際、AIはそれを支持・共感する内容で返答したという。OpenAIは、すでに危機介入のための安全策が組み込まれていると表明するも、このケースでは不十分であったことを認めた。アダムの両親は、AIの利用により同様の悲劇が繰り返されないよう、さらなる安全策の強化を求めている。

出典：OpenAI encouraged California teen to carry out suicide, lawsuit claims

関連記事:

OpenAI、非営利顧問委員会を設置し、営利化への移行を進行中 カリフォルニアの少年、マウントホイットニーで事故に遭い昏睡状態に California州知事がFox Newsを訴訟 サム・アルトマンとジョナサン・アイブ、「io」設立とOpenAIとの統合を発表