【ダイジェスト】
デジタルウォーターマークは、生成AIによって引き起こされる社会問題の解決策として最も注目されています。ジェネレーティブAIによるディープフェイクの拡散が容易になった中、AI生成コンテンツを識別するためのウォーターマークのアイデアが提案されています。バイデン政権は、技術企業にAI生成コンテンツを特定する方法を見つけるよう命じ、ウォーターマーキングを政策解決策として強調しています。この取り組みは、AI開発者がAI生成コンテンツとしてコンテンツをタグ付けする方法を見つけることに基づいています。
しかし、ウォーターマーキングは万能薬ではありません。特に、テキストをビジュアルメディアのようにタグ付けするシステムはほとんど存在しません。デジタルウォーターマーキングは1990年代に人気が高まるにつれて登場し、企業や政府が所有権、著作権、真正性を追跡しやすくするためにタグを付け始めました。新しいウォーターマーキングの波は、メディアがAIまたは人間によって生成されたものかを本質的にタグ付けすることになります。
しかし、画像やビデオの上に貼り付けられたウォーターマークは、写真やビデオ編集を通じて簡単に削除できるため、ウォーターマーキングには大きな弱点があります。この課題に対処するため、AdobeやMicrosoftなどの企業は、画像やビデオの出所に関する情報を特徴として追加するContent Credentialsという標準を採用しています。Googleは、画像のピクセルに埋め込まれるSynthIDと呼ばれるウォーターマークに取り組んでおり、人間の目には見えないが、ツールを通じて検出可能です。
ウォーターマーキングは、消費者に負担をかけ、何かが正しくないという個人の感覚に依存します。しかし、オンラインで見たものの出所を確認する習慣は一般的にはありません。ディープフェイクが明らかなメタデータでタグ付けされていても、人々はそれに騙され続けます。ウォーターマーキングは完璧な解決策ではありませんが、オンラインで見るものに対する懐疑心を高めることに貢献します。
【ニュース解説】
デジタルウォーターマークは、ジェネレーティブAIによって作成されたコンテンツ、特にディープフェイクと呼ばれる技術で作成された偽のビデオや画像を識別するための一つの解決策として提案されています。ディープフェイク技術は、実在する人物が実際には言っていないことを言っているかのように見せるビデオを作成することができ、これが社会的な問題や誤情報の拡散につながることがあります。この問題に対処するため、バイデン政権をはじめとする政府や企業は、AIによって生成されたコンテンツを特定するためのウォーターマーキング技術の開発を推進しています。
ウォーターマーキング技術は、コンテンツがAIによって生成されたものであることを示すマークや情報をコンテンツに埋め込むことにより、その出所を明らかにするものです。しかし、この技術には限界があります。例えば、ビジュアルメディアに比べてテキストコンテンツのウォーターマーキングは困難であり、また、ウォーターマーク自体が編集ソフトウェアによって削除される可能性があります。
AdobeやMicrosoftなどの企業は、Content Credentialsという標準を採用し、画像やビデオにメタデータを埋め込むことで、誰がそのコンテンツを作成したか、どのプログラムが使用されたかといった情報を提供しています。Googleは、人間の目には見えないが検出可能なウォーターマーク「SynthID」を開発中です。これらの技術は、コンテンツの真正性を確認するための手段を提供しますが、完全な解決策ではありません。
ウォーターマーキングがディープフェイクに対抗するためには、消費者がコンテンツの真正性を疑い、積極的に確認する文化が必要です。しかし、多くの人々はオンラインで見たものの出所を確認する習慣を持っていません。そのため、ウォーターマーキングはディープフェイクの問題を完全に解決するものではなく、あくまで誤情報の拡散を抑制するための一つの手段と考えるべきです。
長期的には、AIによるコンテンツ生成の進化に伴い、ウォーターマーキング技術も進化し続ける必要があります。また、消費者教育を強化し、人々がオンラインでの情報に対してより批判的な視点を持つことが重要です。ウォーターマーキングは、ディープフェイクや誤情報に対する防御策の一環として有効ですが、社会全体での意識の変化も同時に求められます。
from Watermarking the future.
