テネシー州の高校生3人が今週、Elon Musk氏のxAIを提訴した。訴状によると、同社の画像生成ツールが、彼らの実際の写真を性的画像に加工するために使用されたと主張している。カリフォルニア州のxAI本社で提出されたこの訴訟は、集団訴訟ステータスを求めており、訴状は原告と同様の被害者が数千人に上ると述べている。これらの被害者は未成年者であるか、画像が作成された当時は未成年者であったとしている。
性的画像生成ツールを巡る訴訟
訴状によると、原告の一人であるJane Doe 1は昨年12月に匿名で、自身の性的画像がソーシャルメディアウェブサイトで配布されているとの警告を受けた。この画像は彼女の実際の顔と体が、馴染みのある設定で性的ポーズに加工されたもので、動画1つと画像4つを含む少なくとも5つのファイルがあった。訴状は、画像を配布した人物がDoeを知っており、xAIの画像生成ツールを使い、彼女の実際の写真を性的に虐待的なものに変えたと主張。画像の一部はホームカミングの写真や高校の年鑑から取られたものだった。画像を配布した人物は、Jane Doe 1以外に少なくとも18人の少女の露骨な画像も作成し、そのうち2人がこの訴訟の共同原告となっている。
加害者への対応とxAIへの主張
昨年12月下旬、地元警察は加害者を逮捕し、彼の携帯電話を押収した。捜査の結果、彼は画像をいくつかのプラットフォームにアップロードし、他の未成年者の性的画像と交換していたことが判明した。訴状は、他のAI企業が画像生成ツールで性的コンテンツの生成を禁止しているのに対し、Musk氏がこれをビジネス機会と捉え、xAIのGrokチャットボットが「スパイシーな」コンテンツを作成できることを宣伝したと主張している。また、訴状は、現在、大人向けの露骨な画像の生成を防止しながら、子供の画像を完全にブロックする方法はなく、xAIはGrokが子供の性的露骨な画像を生成できることを知りながらリリースしたと主張している。画像を配布した人物は、xAIの技術のライセンスを持つアプリケーション、またはGrokへのアクセスを「購入」し、仲介者として利用したと訴状は述べている。
xAIはThe Associated Pressからのコメント要求に応じなかった。しかし、ソーシャルメディアプラットフォームXは1月14日の論争に関する投稿で、「Xをすべての人にとって安全なプラットフォームにするべく尽力し、あらゆる形態の児童性的搾取、非同意のヌード、望まない性的コンテンツに対してゼロトレランスを継続する」と述べた。Xはさらに、「児童性的虐待素材（CSAM）や非同意のヌードを含む、優先度の高い違反コンテンツの削除措置を講じ、Xルールに違反するアカウントに対して適切な措置を取る。また、児童性的搾取素材を求めるアカウントについては、必要に応じて法執行機関に報告する」としている。
原告らが抱える精神的影響
訴訟の学生たちは、自身について作成された画像がインターネット上に永遠に残ることを懸念している。彼らの実際のファーストネームと学校名がファイルに添付されているため、ストーキングの恐怖を感じている。友人やクラスメートが本物に見える写真や動画を見たこと、将来誰がそれらを見るかを心配している。訴状によると、Jane Doe 1は不安、うつ病、ストレスに苦しみ、摂食困難、睡眠障害に悩まされ、悪夢にうなされている。Jane Doe 2は自己隔離を始め、学校のキャンパスにいることを避け、自身の卒業式に出席することさえ恐れている。Jane Doe 3は、誰かがAI生成画像を見て自分の顔を認識することへの絶え間ない恐怖と不安に苦しんでいると、訴状は述べている。
