Meta、FacebookおよびInstagramの所有者は、人工知能（AI）技術によって生成された欺瞞的なコンテンツを監視する能力が試される選挙を前に、デジタルで作成または変更されたメディアに関するポリシーの大幅な変更を発表しました。同社は、FacebookとInstagramに投稿されたAI生成のビデオ、画像、およびオーディオに「AIで作成」というラベルを5月から適用し始めます。これは、以前に一部の加工されたビデオにのみ対応していたポリシーを拡大するものです。
また、Metaは、AIやその他のツールを使用して作成されたコンテンツにかかわらず、「重要な事項について公衆を実質的に欺く特に高いリスクがある」と判断されるデジタルで変更されたメディアに、より目立つ「高リスク」ラベルを適用します。この「高リスク」ラベルの適用は直ちに開始されます。
このアプローチは、限定された投稿の削除に焦点を当てることから、コンテンツを掲載したままで、それがどのように作成されたかについて視聴者に情報を提供する方向へと、操作されたコンテンツの扱いを変更します。
Metaは以前、他社の生成AIツールを使用して作成された画像を検出するために、ファイルに組み込まれた目に見えないマーカーを使用する計画を発表していましたが、その時点では開始日を明らかにしていませんでした。
変更は、生成AI技術によって変革される可能性があると技術研究者が警告している11月の米国大統領選挙の数ヶ月前に行われます。政治キャンペーンはすでに、インドネシアなどの場所でAIツールを展開し始めており、Metaや生成AI市場のリーダーであるOpenAIが発行したガイドラインの境界を押し広げています。
【ニュース解説】
Meta、FacebookおよびInstagramの親会社は、人工知能（AI）技術によって生成または変更されたメディアコンテンツに対する新たなポリシーを発表しました。この新しい方針により、AIで生成されたビデオ、画像、オーディオには「AIで作成」というラベルが付けられ、特に公衆を重要な事項について実質的に欺くリスクが高いと判断されるデジタルで変更されたメディアには、より目立つ「高リスク」ラベルが適用されます。この変更は、AIやその他のツールを使用して作成されたコンテンツに関係なく適用されます。
この措置は、操作されたコンテンツの扱いを、限定された投稿の削除から、コンテンツを掲載したままで、それがどのように作成されたかについて視聴者に情報を提供する方向へと変更します。これにより、ユーザーはコンテンツを見る際に、その背後にある技術や意図をより理解しやすくなります。
このポリシーの変更は、AI技術が急速に進化し、特に政治キャンペーンなどでのその使用が増加している背景のもとで行われます。AIによって生成されたコンテンツは、リアルな偽情報を作り出す能力があり、公衆を誤解させるリスクが高まっています。特に選挙のような重要なイベントを前にして、このようなコンテンツの監視と管理は極めて重要です。
この新しいラベリングシステムの導入により、ユーザーはAIによって生成または変更されたコンテンツをより容易に識別できるようになります。これは、偽情報の拡散を防ぐ上で有効な手段となり得ますが、同時に、AI技術の発展に伴い、より高度な偽情報が生成される可能性もあります。そのため、このようなラベリングシステムは、常に最新の技術進化に対応して更新される必要があります。
また、このポリシーの変更は、コンテンツ制作者や配信者に対しても、自らの作品がどのように受け取られ、理解されるかについて、より一層の注意を払うことを促します。AI技術を使用してコンテンツを作成する際には、その影響や受け取られ方を十分に考慮する必要があります。
長期的には、このようなポリシーの変更が、AI技術によるコンテンツ生成の透明性を高め、ユーザーが情報を批判的に評価する能力を向上させることに寄与することが期待されます。しかし、AI技術の進化に伴う潜在的なリスクに対処するためには、技術的な対策だけでなく、教育や法的な規制など、社会全体での取り組みが必要となるでしょう。
from Facebook and Instagram to label digitally altered content ‘made with AI’.
