【ダイジェスト】
Metaの監督委員会は、Facebook上でジョー・バイデン米国大統領を小児性愛者と誤って示唆する動画が同社の現行ルールに違反しないと判断しましたが、そのルールを「一貫性がなく」、AI生成コンテンツに過度に焦点を当てていると批判しました。この動画は、バイデン大統領が2022年の米中間選挙で孫娘と「投票済み」ステッカーを交換し、頬にキスをする実際の映像を操作したものです。
監督委員会は、AIによって生成されたものでなく、人々が実際には言っていない言葉を言わせるように見せる動画のみを禁止する現行ポリシーの下で、動画を削除しないMetaの決定は正しいと結論付けました。しかし、この決定は、新しいAI技術が今年の選挙に影響を与える可能性についての懸念が高まる中で、「操作されたメディア」に関するMetaのポリシーを初めて批判しました。
委員会は、ポリシーが「説得力のある正当化に欠け、ユーザーにとって一貫性がなく混乱を招き、防ごうとしている害を明確に指定していない」と述べ、AIの使用に関係なく、操作されたと識別するラベルを適用するようMetaに提案しました。ただし、写真にポリシーを適用することについては、Metaの規模で実施が困難になる可能性があるため、提案しませんでした。
Metaは、レビューの過程で、新しく現実的なAIの進化に対応するためにポリシーを更新する計画を委員会に伝えました。同社は、コンテンツにラベルを適用することによってのみ執行すべきであり、現在のように投稿をプラットフォームから削除する現行のアプローチではないと委員会は付け加えました。
Metaは月曜日の声明で、裁定を検討中であり、60日以内に公に回答すると述べました。
【ニュース解説】
Metaの監督委員会が、Facebook上で公開されたジョー・バイデン米国大統領を不適切に描写する動画が同社の現行ルールに違反しないと判断した一方で、そのルールを「一貫性がない」と批判しました。この動画は、バイデン大統領が孫娘と親しく接する様子を捏造して小児性愛者であるかのように誤って示唆しています。この判断は、AIによって生成されたコンテンツにのみ焦点を当てた現行のポリシーに基づくもので、人間が操作したコンテンツはこの範囲外であるとされました。
この事例は、AI技術の進化に伴い、選挙や公共の議論に影響を与える可能性のある偽情報の拡散が容易になっている現代において、ソーシャルメディアプラットフォームのルールが直面する課題を浮き彫りにしています。AIによる操作だけでなく、人間による操作も同様に誤解を招く可能性があり、これによりユーザーを混乱させ、誤情報を広めるリスクが高まります。
監督委員会は、Metaに対して、AIの使用にかかわらず操作されたコンテンツにラベルを付けることを提案しました。これは、ユーザーがコンテンツを見る際に、それが操作されたものであることを明確に理解できるようにするためです。しかし、写真に関しては、Metaの規模での実施が困難であるため、この提案は行われませんでした。
この問題は、ソーシャルメディアプラットフォームがどのようにして誤情報と戦うべきか、そしてそのためのルールがどのように設計されるべきかという、より広範な議論を引き起こしています。ポジティブな側面としては、このような議論が進むことで、より透明性が高く、ユーザーにとって理解しやすいルールが設定される可能性があります。一方で、潜在的なリスクとしては、表現の自由に対する過度な制限や、誤情報との戦いがプライバシーの侵害につながる可能性があります。
長期的には、この問題はソーシャルメディアプラットフォームの信頼性と、公共の議論におけるその役割に影響を与える可能性があります。プラットフォームが誤情報を効果的に管理し、ユーザーが信頼できる情報源として機能するためには、進化する技術と社会のニーズに適応したルールの更新が不可欠です。また、このような問題に対処するためには、プラットフォーム、政策立案者、ユーザー間の協力が必要であり、共通の目標に向かって努力することが求められます。
from Facebook rules allow altered video casting Biden as paedophile, says board.
