人工知能（AI）の時代において、政治分野でのディープフェイクやその他の操作が増加しています。カリフォルニア大学バークレー校の電気工学およびコンピュータサイエンスの教授であり、デジタルフォレンジックの専門家であるハニー・ファリドは、「過去数年が何かを示しているとすれば、悪意のある行為者がディープフェイクを武器化し、市民の不安を煽り、選挙に干渉する情報操作キャンペーンを続けていくことを目にするだろう」と述べています。
ディープフェイクの検出ツールは存在しますが、メディアの認証方法を改善するための技術（ウォーターマーキング、フィンガープリンティング、ブロックチェーンなど）にもかかわらず、ディープフェイクの拡散を防ぐことは非常に困難です。スタンフォード大学のコンピュータサイエンス教授であり、ブラウン・インスティテュート・フォー・メディア・イノベーションのディレクターであるマニーシュ・アグラワラは、「この問題に対処する単一の方法はない。これは社会的および政治的な問題であると同時に技術的な問題でもある」と指摘しています。
ディープフェイクのリスクを抑制するためには、ディープフェイクの検出が重要ですが、それらがオンラインで拡散し、バイラルになるのを防ぐことが最終目標です。しかし、デジタルウォーターマーキングやデジタルフィンガープリンティングなどの認証方法は完全に効果的ではありません。たとえば、ウォーターマーキングは脆弱であり、除去する方法が存在します。フィンガープリンティングも一部の操作には耐えられず、圧縮、伝送エラー、ファイル形式の変換によって劣化する可能性があります。
技術だけでは問題を解決できないとアグラワラは述べています。「どのソフトウェアツールも100%効果的ではない。すべてのディープフェイクを特定する確実な方法はない」と彼は言います。さらに、メディアアウトレットやソーシャルメディアサイトは予防策を採用することに興味を示しておらず、今日のデジタル現実を反映するように名誉毀損および中傷法を更新する動きもありません。
【ニュース解説】
近年、人工知能（AI）技術の進化に伴い、政治分野でのディープフェイクやその他の操作が増加しています。ディープフェイクとは、AIを使用して作成された偽のビデオやオーディオのことで、実際には存在しない言動を実際にあったかのように見せかける技術です。この技術は、選挙に干渉したり、市民の不安を煽る情報操作キャンペーンに利用されることが懸念されています。
ディープフェイクの検出ツールは存在しますが、メディアの真正性を確認するための技術（ウォーターマーキング、フィンガープリンティング、ブロックチェーンなど）も完全ではなく、ディープフェイクの拡散を防ぐことは困難です。この問題は、技術的な側面だけでなく、社会的および政治的な側面も含む複雑なものであると指摘されています。
ディープフェイクのリスクを抑制するためには、検出技術の向上だけでなく、それらがオンラインで拡散するのを防ぐことが重要です。しかし、現在の認証方法には限界があり、完全に効果的ではありません。例えば、ウォーターマーキングは除去可能であり、フィンガープリンティングも一部の操作に耐えられないことがあります。
この問題を解決するためには、技術的なアプローチだけでなく、メディアやソーシャルメディアが予防策を採用すること、法律の更新など、社会全体での取り組みが必要です。しかし、現状ではメディアアウトレットやソーシャルメディアサイトが予防策を採用することに興味を示しておらず、法律の更新も進んでいません。
ディープフェイクの問題は、単に技術を制限することでは解決できない複雑なものです。技術を使ってコンテンツが本物であることを検証し、違反があれば検出することは重要ですが、同時に人々を教育し、コンテンツの製作者や配布者に責任を持たせる方法を探ることも大切です。自由な表現を保護しつつ、デジタル時代の現実を反映した法律や規制の整備が求められています。
from The Campaign Against Deepfakes.
