英国のジェームズ・クレバリー内務大臣は、AIによって生成された「ディープフェイク」が、悪意のある国家によって一般選挙を乗っ取るために使用される可能性があると述べました。彼は、ロシアやイランのような国家が他国の民主的プロセスを操作するために、非常にリアルな偽の画像やビデオを生成することができると警告しています。
クレバリー氏は、ソーシャルメディアの幹部との会議に先立ち、技術の急速な進歩が世界中の選挙に深刻な脅威をもたらす可能性があると述べました。彼は、「ディープフェイクやAIによって生成されたコンテンツによる誤解や混乱はすでに始まっており、それが挿入される風景には、その利用者のためのルール、透明性、および保護措置が必要である」と指摘しました。
内務大臣は、Google、Meta、Apple、YouTubeなどのシリコンバレーの幹部との会議を利用して、民主主義を守るための共同行動を促す予定です。また、世界中で約20億人が2024年に国民投票に参加すると推定されており、英国、米国、インド、その他60カ国が含まれます。
主要な技術企業は、民主的選挙を混乱させるために人工知能ツールが使用されるのを防ぐための「合理的な予防措置」を自発的に採用するという協定に先月署名しました。Adobe、Amazon、Google、IBM、Meta、Microsoft、OpenAI、TikTokの幹部がミュンヘン安全保障会議で、有権者を意図的に欺くAI生成のディープフェイクに対応するための新しい枠組みを発表しました。エロン・マスクのXを含む他の12社もこの協定に署名しています。
【ニュース解説】
英国のジェームズ・クレバリー内務大臣は、AIによって生成された「ディープフェイク」技術が、悪意ある国家によって選挙を不正に操作するために使用される可能性があると警告しました。ディープフェイクとは、AI技術を用いて作成された非常にリアルな偽の画像やビデオのことで、人々を騙すことが可能です。クレバリー氏は、この技術の急速な進歩が世界中の選挙に深刻な脅威をもたらす可能性があると指摘し、デジタルコンテンツに対するルール、透明性、保護措置の必要性を強調しました。
この問題に対処するため、内務大臣はGoogle、Meta、Apple、YouTubeなどのシリコンバレーの幹部と会議を行い、民主主義を守るための共同行動を促す予定です。また、世界中で約20億人が2024年に国民投票に参加すると推定されており、この問題は多くの国に影響を及ぼす可能性があります。
主要な技術企業は、民主的選挙を混乱させるために人工知能ツールが使用されるのを防ぐための「合理的な予防措置」を自発的に採用するという協定に署名しました。この協定には、Adobe、Amazon、Google、IBM、Meta、Microsoft、OpenAI、TikTokの幹部が参加し、エロン・マスクのXを含む他の12社も署名しています。
ディープフェイク技術の進化は、情報の真偽を見極めることがこれまで以上に困難になることを意味します。特に選挙のような重要な民主的プロセスにおいて、偽情報が流布されることは、公正な選挙結果に対する信頼を損なう可能性があります。一方で、この技術はエンターテイメント業界や教育分野でのポジティブな応用も可能ですが、その潜在的なリスクは無視できません。
このような背景から、技術企業、政府、市民社会が協力して、ディープフェイク技術の悪用を防ぐための規制やガイドラインの策定が急務となっています。長期的には、AI技術の進歩に伴い、これらの対策も進化し続ける必要があるでしょう。また、一般の人々もデジタルリテラシーを高め、情報の真偽を見極める能力を養うことが重要です。
from UK’s enemies could use AI deepfakes to try to rig election, says James Cleverly.
