OpenAIのCEOサム・アルトマンは、成人のみをターゲットにした新しいバージョンのChatGPTを年末に発表すると公表している。この新バージョンは認証済みのユーザーに対し、性的内容の利用を可能とするものである。発表はカリフォルニア州知事ギャビン・ニューサムが未成年者向けのAIチャットボットとのインタラクションを規制する法案に署名した直後に行われた。これにより、チャットボットが自殺念慮を検知し、対応するプロトコルを確立することが義務づけられる。
記事内では、OpenAIの以前の事例として、オレンジ郡の少年がチャットボットとのやり取りの後に自殺した事件が言及されており、その事件をきっかけに同社は親の管理機能の追加を発表したとしている。アルトマンは、サイバー対策において「慎重」であることを強調し、特に心の健康への配慮から、これまでのチャットボットは制限が多かったと述べている。
加えて、成人向けの新しいチャットボットのリリースは「年齢に応じた」措置として、成人利用者を成人として扱う方針の一環であると説明されている。なお、この取り組みがカリフォルニア州知事の新たな法律とどのように整合性を保つのかについても注目されている。
