最先端のAI技術を用いて、男性が女性の画像を同意なくデジタルでヌード化する事態が、シリコンバレーに新たな批判の目を向けさせている。xAIのGrokチャットボットが世界的な反発を招き、GoogleとAppleが複数の「ヌード化」アプリをアプリストアで許可していたことが明らかになった。英国に拠点を置くCenter for Countering Digital Hateの報告によると、Grokの画像編集機能が12月にリリースされてからの11日間で、300万枚の性的な画像が生成され、その中には2万以上の子供と見られる人物の画像が含まれていた。Elon Muskはこれを揶揄する反応を示した。カリフォルニア州司法長官ロブ・ボンタ氏の事務所は、Grokの画像生成が法に触れるかどうかの調査を先月から開始し、現在も継続中である。
アプリストアの現状と法的対応
Tech Transparency Projectは先月、Google Playストアで55件、AppleのApp Storeで47件のアプリが、同意なく実在する女性の画像をヌード化したり水着姿にしたりできることを報告した。これらのアプリを提供する企業には、Redwood CityのDreamFaceや中国のBodivaなどがある。Bodivaは「Show Off Body」機能で女性をヌード化し、ポルノ動画への変換オプションも提供していたとTech Transparency Projectは報告している。Appleは、ガイドラインに違反するとして28件のアプリを削除し、残りの開発者には是正を促した。Googleは特定された「ほとんどのアプリ」を停止し、調査を続けている。しかし、両社ともGrokのアプリはApp Storeでの提供を継続している。AI生成画像には、2025年に施行される連邦法Take It Down Actや、昨年カリフォルニア州で可決されたAssembly Bill 621が適用される。Take It Down Actは、同意のない親密な画像（AIによる「ディープフェイク」を含む）の公開を禁止し、有効な削除要求から48時間以内の削除をウェブサイトやアプリに義務付けている。Assembly Bill 621は、同意のないディープフェイクポルノを禁止している。
継続する問題と国際的な反応
Grok運営元のxAIは1月初旬の投稿で「セーフガードの不備」を「緊急に修正している」と述べた。しかし、Reutersが今月報じたところによると、1月14日から16日と1月27日から28日の間に、記者チームが着衣の写真をGrokにアップロードし、屈辱的なポーズや性的に挑発的なポーズを求めた結果、対象が同意していないと明示しても、Grokは多くの場合に性的な画像を返した。Elon Muskの子供の一人の母親であるAshley St. Clairは、Grokが自身の「数えきれないほどの性的虐待的、親密な、屈辱的な」画像を生成したとして、1月にxAIを提訴した。National Organization for Womenのカリフォルニア支部長Camerina Davidsonは「AIはミソジニーを再発明した」と述べ、WomenSVのルース・ダーレン事務局長は、これらのアプリが「女性は男性の目的に奉仕するために存在する」というメッセージを送ると指摘した。Grokの画像性化に対する世界的な怒りは広がり、英国議会が非難声明を出し、欧州委員会と英国のプライバシー監視機関が調査を開始した。フランス検察当局は2月3日、Xの事務所を家宅捜索した。マレーシアとインドネシアはGrokをブロックした。
シリコンバレーでは、2012年のEllen Pao氏による性差別訴訟、2017年のUberのセクハラ問題、2018年のGoogleの賃金差別訴訟など、長年にわたりジェンダー関連の論争が続いてきた。Santa Clara UniversityのMarkkula Center for Applied EthicsのAnn Skeet上級倫理ディレクターは、xAI、Google、Appleのような企業にとって、ヌード化アプリの存在はリーダーシップの失敗であり、企業の価値を損なうと述べている。
