カリフォルニア州司法長官ロブ・ボンタは、イーロン・マスクの会社xAIに対し、同意のない性的画像の作成と配布を即刻中止するよう求める停止通告書を送付した。ボンタは、xAIが女性や子供の衣服を着た画像を無断で使用し、性的に明示的なシナリオを描かせる機能を提供していることを指摘し、これが州の公序良俗法や新たに施行されたディープフェイク関連のポルノ法に違反していると述べた。

背後の法律と対応
新法AB 621は、配信者が無意識のうちにディープフェイクを生成・配布することを禁じており、法を無視した場合は高額な罰金が課される可能性がある。最近、xAIとそのプラットフォームXの利用による無断での性的画像生成が広まっていることが報告されており、州当局は現在、その影響と法的対応を調査中である。

国際的な視点と懸念
この問題はグローバルにも波紋を広げており、EUやインド、マレーシアなどでも批判が高まっている。特にアプリのダウンロードが増加しているAppleやGoogleのストアに対しても、アプリの配布停止を求める声が上がっている。オープンなプラットフォームにおけるこうした技術の使用は、実際の精神的、 reputationalな被害が拡大していることが指摘されている。

今後の法改正の必要性
法の整備は進行中であるが、実際の運用においては、依然として抜け穴が存在するとの指摘があり、さらなる法的保護が求められている。特に被害者が法的措置を講じる際の証明負担が課題として挙げられる。専門家は、法の整備が追いついていないと述べ、技術の発展に合わせたさらなる法改正が必要であるとしている。

出典: sanjoseinside.com: CA Orders Elon Musk’s AI Firm to Immediately Stop Sharing Sexual Deepfakes