メタは、InstagramとFacebookの親会社として、AIチャットボットの新しい安全機能を導入し、若年ユーザーに対する技術の影響への懸念に対応する。親は子どもがAIキャラクターとの一対一のチャットを無効にすることができ、また、子どもが何についてチャットしているのか情報を得ることが可能となる。この機能は来年初頭にInstagramから開始される。

メタは、PG-13基準に基づくティーンアカウントへのアプローチを発表し、若年ユーザーが安全に利用できるよう、コンテンツガイドを提供する。AIキャラクターは、自殺や自傷行為について話し合わず、必要に応じてリソースを紹介する設計である。

これに関連し、カリフォルニア州知事ガビン・ニューサムは、AIチャットボット開発者に対し、青少年に対する自殺や自傷行為の議論を避けるプロトコルを策定することを義務付ける法案に署名したが、子どもの利用を完全に制限する別の法案は拒否した。

出典：Meta to add parental controls for AI chatbots

関連記事:

MetaのAI部門、高額オファーも人材流出止まらず Metaのスマートグラス、デモ中に通信トラブルで不調 Meta、子ども向けに「中毒性のある」機能を意図的に設計したとして、全米で訴訟に直面 カリフォルニア州、新たなAI規制法成立で安全対策を強化