ロサンゼルスのDelevan Drive Elementary Schoolで、Adobeの人工知能が4年生の読書プロジェクトのプロンプトに応答し、性的画像を生成する事件が発生した。この事件は、有害なAIを学校で防ぐための新しい州ガイドラインの発表と時期を同じくしている。
12月、同校の4年生は宿題として「長くつ下のピッピ」の読書感想文とブックカバー作成を指示され、AIの使用も許可された。生徒の一人が教師から提供されたグラフィックデザインソフトウェア「Adobe Express for Education」で「長くつした、真っ赤な髪で三つ編みがまっすぐ飛び出している女の子」の画像を生成するよう求めたところ、スウェーデンの児童文学キャラクターとは似ても似つかない、ランジェリーやビキニ姿の女性の性的画像が生成された。保護者のジョディ・ヒューズ氏が他の保護者に連絡したところ、自身の学校支給Chromebookコンピューターでも同様の結果が再現できたという。数日後、保護者団体Schools Beyond Screensはロサンゼルス学区理事会に対し、Adobeソフトウェアのさらなる利用に反対を表明した。
この事件は、ロサンゼルス学区における特定のAI製品の使用だけでなく、カリフォルニア州全体で学校に技術を安全に導入するための州行政官が提供するガイドラインについても疑問を投げかけた。事件の数週間後、州教育省は、50人の教師、管理者、専門家の協力のもと数ヶ月かけて作成していたガイドラインの新版を発表した。この改訂は、2024年に議会がAIの急速な普及に対処するよう同省に指示した二つの法律に応じる形で行われた。
ガイドラインは、学生によるAIの許容できない使用（剽窃など）のリストを提示し、現実世界のシナリオとケーススタディを議論に統合して、学生が倫理原則を実践的な状況に応用できるように促している。また、学生はAIツールの「利点と課題」について「批判的かつ創造的に考える」よう教えられるべきだと述べている。批評家は、このガイドラインが、保護者が「ピッピゲート」と呼ぶ今回の論争を防ぐのに役立ったか疑問視しており、曖昧な点が多いと指摘する。UCLAのジュリー・フラパン氏は、ガイドラインが批判的思考とAIツールの吟味を奨励し、教育リーダーが意思決定に地域社会を関与させることを促している点は理にかなっているが、その具体的な方法については詳細が示されていないと述べた。
AIが社会で急速に普及する中、技術を効果的に管理することは喫緊の課題となっている。ギャビン・ニューサム知事は10月に未成年者による一部チャットボットの使用を阻止する法案に拒否権を行使し、AIを完全に防ぐことで若者を将来に備えさせることはできないと述べた。しかし、ノースウェスタン大学のチャールズ・ローガン氏は、ガイドラインがAIの使用を拒否したりオプトアウトしたりする明確な選択肢を教師や保護者に提供していない点を問題視している。州教育省のAI作業部会は、7月までに今回のガイドラインに基づいた具体的な政策提言を導入する予定である。
出典: calmatters.org: California AI education guidelines coincide with 4th grade scandal
