Facebook上でリシ・スナク首相を模倣した100以上のディープフェイク動画広告が出現し、選挙へのAIリスクに対する警鐘が鳴らされています。これらの広告は過去1ヶ月間にわたり、23カ国から発信され、最大40万人のユーザーに到達した可能性があります。広告にはBBCのニュースリーダーを偽装した映像が含まれ、スナク首相が一般市民向けのプロジェクトから「莫大な金額を秘密裏に稼いでいる」という虚偽のスキャンダルが報じられています。また、イーロン・マスクが株式市場の取引を「収集」するアプリケーションを立ち上げたという虚偽の主張も含まれています。
これらの広告は、Facebookの複数のポリシーに違反しているにも関わらず、ほとんど削除されていないという問題が指摘されています。メタ（Facebookの親会社）にはコメントを求められています。英国政府は、民主的プロセスへの脅威に迅速に対応するために、政府のタスクフォースや専門チームを通じて広範な対策を講じていると述べています。また、オンラインセーフティ法は、プラットフォームがAIによって生成された違法な誤情報やデマを認識次第、迅速に削除する新たな要件を設けています。
BBCは、デマの増加に対処するためにBBC Verifyを2023年に立ち上げ、専門チームを投入して調査、ファクトチェック、ビデオの検証、デマ対策、データ分析、複雑なストーリーの説明を行っていると述べています。また、偽のBBCコンテンツが発見された場合には迅速に対応するとしています。
規制当局は、次の一般選挙が2022年11月に予定されている中、英国の選挙システムがAIの進歩に追いつくための大規模な変更を実施する時間がなくなりつつあることを懸念しています。政府は、選挙委員会を含む規制当局と議論を行っており、2022年の法律に基づく新たな要件が、有権者が広告の支払い元や影響を与えようとしている人物を確認できるようにする一助となるとしています。
from Slew of deepfake video adverts of Sunak on Facebook raises alarm over AI risk to election.
