【ダイジェスト】
Metaは、Facebook、Instagram、およびThreads上でAIによって生成された画像を検出し、ラベル付けする作業を進めています。この取り組みは、人々が意図的に欺くことを目的とした人や組織を指摘するためです。MetaのグローバルアフェアーズのプレジデントであるNick Cleggは、Metaが開発したAIイメージングツールを使用して作成された写真リアルな画像は既にAIとしてラベル付けされているが、競合他社のサービスで開発されたAI生成画像にもラベルを付け始める作業を行うと発表しました。
これらのAI画像には、他の組織がその画像がAIによって開発されたことを知ることができるメタデータと目に見えない透かしマークが含まれています。Metaは、Google、OpenAI、Microsoft、Adobe、Midjourney、Shutterstockなど他社が提供するAI画像ジェネレーターで使用されるこの種のマーカーを識別するツールを開発中です。
Cleggは、「人間と合成コンテンツの違いが曖昧になるにつれて、人々は境界がどこにあるのかを知りたがっています」と述べ、ユーザーはAI生成コンテンツに初めて遭遇することが多く、この新技術に関する透明性を評価していると指摘しました。そのため、写真リアルなコンテンツがAIを使用して作成されたものであることを人々に知らせることが重要です。
Cleggは、この機能が構築されており、今後数ヶ月以内にすべての言語でラベルが適用されると述べました。また、AIによって生成された音声やビデオには現在これらのマーカーが含まれていないが、オンラインで投稿される際にこれらのコンテンツにラベルを付けることを許可するとも述べました。
さらに、公共の重要事項について人々を実質的に欺く高いリスクを生じさせる「デジタルで作成または変更された」画像、ビデオ、または音声には、より目立つラベルを付けると述べました。また、Metaは、透かしマークがない場合やそれらが削除された場合でも、AIによって生成されたコンテンツを自動的に検出する技術の開発を検討しています。
Cleggは、「この作業は、今後数年でますます対立的な空間になる可能性があるため、特に重要です」と述べ、AI生成コンテンツで人々を欺こうと積極的に試みる人々や組織は、それを検出するために設置されたセーフガードを回避する方法を探すでしょう。業界全体と社会全体で、一歩先を行く方法を常に探し続ける必要があります」と強調しました。
【ニュース解説】
MetaがFacebook、Instagram、およびThreadsでAIによって生成された画像を検出し、それらにラベルを付ける取り組みを進めていることが発表されました。この動きは、AI生成コンテンツの増加に伴い、ユーザーがコンテンツの真偽を容易に判断できるようにするため、そして意図的に人々を欺くことを目的とした行為に対抗するためのものです。
この取り組みの背景には、AI技術の進化により、写真リアルな画像やビデオが簡単に生成できるようになったことがあります。これにより、人間が作成したコンテンツとAIによって生成されたコンテンツの区別が難しくなっています。Metaは、自社で開発したAIイメージングツールを使用して作成された画像には既にAIとラベル付けしていますが、GoogleやOpenAI、Microsoftなど他社のAI画像ジェネレーターで作成された画像にもラベルを付けることを目指しています。
このラベル付けにより、ユーザーは自分が見ているコンテンツが人間によって作成されたものなのか、それともAIによって生成されたものなのかを明確に知ることができます。これは、特に政治的な情報や社会的に重要なトピックに関連するコンテンツにおいて、誤情報や偽情報の拡散を防ぐ上で重要な役割を果たします。
しかし、この取り組みにはいくつかの課題も存在します。AI技術は日々進化しており、AIによって生成されたコンテンツを検出する技術も常に更新される必要があります。また、AIを用いて意図的に人々を欺こうとする者が、検出を回避するための新たな手法を開発する可能性もあります。そのため、Metaだけでなく、テクノロジー業界全体で、このような課題に対応するための協力体制を築くことが求められます。
長期的には、このようなラベル付けと検出技術の進化が、AIによるコンテンツ生成の透明性を高め、ユーザーが情報を批判的に評価する能力を向上させることに貢献することが期待されます。また、AI技術のポジティブな側面を活用しつつ、その潜在的なリスクを最小限に抑えるための規制やガイドラインの策定にも役立つでしょう。
from Meta pushes to label all AI images on Instagram and Facebook in crackdown on deceptive content.
