【ダイジェスト】
Metaは、Facebook、Instagram、Threadsに投稿されるAIによって生成された画像に対して、その人工的な起源を知らせる警告ラベルを付ける方針を拡大すると発表しました。しかし、この新しいポリシーによってカバーされるのは、Metaと協力する意向のある企業が提供するツールを使用して作成された画像のみです。多くのAI生成メディアは新ポリシーの対象外となり、悪意のある行為が検出されずに残る可能性があります。
Metaは、自社の生成AIツールを使用して作成された画像には既に「AIで想像された」というタグを付けており、今後数ヶ月以内に他の企業が提供するツールを使用して作成されたAI画像にもラベルを付ける予定です。しかし、Google、OpenAI、Microsoft、Adobe、Midjourney、Shutterstockなどが開発中の開示技術をサポートするとしているものの、この技術はまだ広く展開されていません。また、出力にウォーターマークを付けない多くのAI画像生成ツールが容易にアクセス可能であり、技術はますます簡単に利用・変更できるようになっています。
Metaの新しいポリシーは、AI生成による偽のコンテンツをより多く捕捉するのに役立つかもしれませんが、すべての操作されたメディアがAI生成されたわけではありません。例えば、ジョー・バイデン大統領が孫娘の胸を不適切に触れているように見せかけた編集されたビデオはAI生成されたものではなく、Metaの現行ポリシーに違反していないとされましたが、Metaの独立専門家による監視委員会は、AI生成コンテンツだけでなく、より多くの操作されたメディアをカバーするようルールを見直し・拡大するべきだと述べています。
Metaは、監視委員会の指導に対して公開で回答し、60日以内にその推奨事項に対応する予定です。
【ニュース解説】
MetaがFacebook、Instagram、Threadsに投稿されるAIによって生成された画像に対して、「人工的な起源」を示す警告ラベルを付ける方針を拡大すると発表しました。この新しいポリシーは、Metaと協力する意向のある企業が提供するツールを使用して作成された画像に限定されます。しかし、この技術はまだ広く展開されておらず、ウォーターマークを付けない多くのAI画像生成ツールが存在し、技術のアクセスと変更が容易になっています。
この動きは、AI生成による偽のコンテンツをより多く捕捉し、誤情報や偽情報の拡散リスクを減らすことを目的としています。しかし、AI生成されたメディアがすべてこの新ポリシーの対象となるわけではなく、操作されたメディアの全範囲をカバーしているわけではありません。実際、AI生成ではない操作されたメディアも存在し、Metaの現行ポリシーに違反しないケースもあります。
この新しい取り組みは、AI技術の進化に伴う課題に対処しようとするMetaの試みを示していますが、完全な解決策とは言えません。ウォーターマーク技術の限界や、AI生成メディアの識別方法に関する技術的な課題が依然として存在します。さらに、AIによって生成された音声やビデオに対する識別技術の開発が追いついていないことも、この分野での挑戦を示しています。
この方針の拡大は、AI技術の進化によって生じる潜在的なリスクに対する認識の高まりを反映しています。AIによって生成されたコンテンツが現実のものと見分けがつかなくなるにつれ、誤情報や偽情報の拡散、プライバシーの侵害、著作権の問題など、さまざまな問題が生じる可能性があります。そのため、技術の進化に伴い、これらの問題に対処するための規制やポリシーの更新が必要とされています。
長期的には、AI技術の進化とその社会への影響を考慮した、より包括的な対策が求められます。これには、技術的な解決策だけでなく、教育や意識向上の取り組み、国際的な協力や規制の枠組みの構築など、多角的なアプローチが含まれるでしょう。AI技術のポジティブな側面を最大限に活用しつつ、潜在的なリスクを最小限に抑えるためには、技術開発者、政策立案者、一般の人々が協力して取り組む必要があります。
from Meta Will Crack Down on AI-Generated Fakes—but Leave Plenty Undetected.
