メンローパークに拠点を置くソーシャルメディア大手Metaは、新しい人工知能（AI）強制技術が、偽アカウントの検出や性的勧誘コンテンツの検知といった主要指標において人間のレビューチームを上回ると発表した。同社は木曜日にウェブサイトで、Meta AIサポートアシスタントをFacebookとInstagramでグローバルに展開すると発表した。これはパスワード更新やプロフィール設定などのアカウント問題に対する24時間年中無休のサポートを提供するだけでなく、「コンテンツ取り締まりのアプローチを変革し、詐欺や違法コンテンツのような重大な違反をより正確に発見・削除するため」だとしている。Metaは、AIの拡大が「今後数年間」にわたって行われると述べている。
Meta AIサポートアシスタントの導入
Meta AIサポートアシスタントは、アカウント問題の解決を助け、通知設定や新機能に関する質問への回答を提供する。また、詐欺、なりすましアカウント、問題のあるコンテンツの報告、コンテンツ削除理由と異議申し立てに関する質問、プライバシー設定の管理、パスワードのリセット、プロフィール設定の更新も行うとしている。このアシスタントはFacebookとInstagramに組み込まれており、通常5秒未満で応答するとMetaは約束した。Meta AIサポートアシスタントは、サポートトピックに関してFacebookとInstagramがサポートする全ての言語で展開されている。
コンテンツ取り締まりの強化
コンテンツモデレーションの甘さに対する批判が高まる中、Metaはコンテンツ取り締まりのためにより高度なAIシステムを実験していると述べた。これにより、詐欺師がログイン情報を詐取する機会を削減し、既存のレビューチームがこれまで捕捉できなかった1日5,000件の詐欺試行を発見・軽減しているという。また、有名人などのなりすましアカウントをより多く特定・防止し、最もなりすましの報告が多かった有名人に関するユーザー報告を80%以上削減した。さらに、違反する成人向け性的勧誘コンテンツをレビューチームの2倍検知し、誤検知率を60%以上減少させたとしている。AIは、新しい場所からのアクセス、パスワード変更、プロフィール編集といった変化の組み合わせからアカウント乗っ取りを防止し、不自然な低価格と疑わしいウェブアドレスで正規のロゴを使用する偽サイト（人気スポーツ用品店を装うもの）も検出できる。これらのより高度なAIシステムは、オンライン利用者の98%が話す言語に対応しており、以前の約80言語の対応範囲をはるかに超えている。
今後の展開と人間の役割
Metaは今後数年間で、現在のコンテンツ取り締まり方法よりも一貫して優れた性能を示すことが確認され次第、これらのより高度なAIシステムをアプリ全体に展開し、アプローチを変革するとしている。コンテンツ取り締まりにおけるサードパーティベンダーへの依存を減らし、内部システムと人材の強化に注力する方針である。コンテンツをレビューする人間は引き続き配置するが、グラフィックコンテンツの反復的なレビューや、違法薬物販売や詐欺のように敵対的行為者が常に戦術を変更する分野など、テクノロジーに適した作業はAIが担う。AIは迅速な対応と規模の拡大を可能にするが、人間の判断を置き換えるものではなく、プラットフォーム上の何十億ものコンテンツに人間の判断をより一貫して適用するのに役立つと同社は発表で述べた。専門家がAIシステムを設計、トレーニング、監督、評価し、最も複雑で影響の大きい決定を行う。アカウント無効化の異議申し立てや法執行機関への報告など、最もリスクが高く重要な決定において、人間が引き続き主要な役割を果たす。Metaは、AIへの移行によってコミュニティ規定が変更されることはなく、違反コンテンツの報告方法と誤検知に対する異議申し立て方法を改善すると表明した。
出典: sanjoseinside.com: Meta Reveals Plan to Gradually Replace Human Moderators With AI
