人工知能（AI）によるディープフェイク技術が政治的な偽情報キャンペーンに新たな脅威をもたらしている。ディープフェイクは、偽の画像や音声を以前にも増して簡単に、安価で、迅速に作成可能にしている。ロンドン市長のサディク・カーンは、彼が記念日の週末について煽動的な発言をしたとする偽の音声が、極右によって広く共有され、深刻な混乱を引き起こす寸前だったと述べた。また、ジョー・バイデンからのように見せかけた偽のロボコールが、ニューハンプシャー州予備選挙で民主党員に投票しないよう促した事例もある。
世界中で40以上の国家選挙が予定されている今年、この問題はこれまで以上に明らかになると予想される。偽物や操作された画像や音声を検出するためのフォレンジックツールは、それらを作成するツールに大きく遅れをとっている。ディープフェイクの品質が向上するにつれて、視聴者や聴取者は自分の感覚を信じないように求められている。偽の「録音」や画像が完全に否定されたとしても、それらが生み出した信念や感情を完全に払拭することは難しい。
政治家や官僚は、政治におけるAIによる挑戦に対処し始めているが、規制は対応策の重要な部分であり、市民権を保護するために慎重に行われる必要がある。より多くの企業がコンテンツの真正性イニシアチブに参加しており、OpenAIの画像生成器は画像メタデータに透かしを追加し始めている。偽物の素材がソーシャルメディアを通じて迅速に広まるため、配布を対処することが重要であるが、これは技術大手にさらに多くの力を与えるリスクもある。最終的には、オンラインで見るものに対して、口頭のゴシップや噂と同様に、批判的な態度を育むことが不可欠である。
【ニュース解説】
人工知能（AI）によるディープフェイク技術が政治的な偽情報キャンペーンに新たな脅威をもたらしている現状が、深刻な問題として浮き彫りになっています。ディープフェイクは、実際には存在しない画像や音声を非常にリアルに作成する技術で、これが政治的な文脈で悪用されることで、社会に大きな混乱を引き起こす可能性があります。
例えば、ロンドン市長のサディク・カーンが記念日の週末に煽動的な発言をしたとする偽の音声が広まり、深刻な混乱を引き起こす寸前になった事例や、ジョー・バイデンからのように見せかけた偽のロボコールが民主党員に投票しないよう促した事例などがあります。これらは、ディープフェイク技術がどのようにして政治的な混乱を引き起こす可能性があるかを示す具体的な例です。
このような偽物や操作されたコンテンツを検出するための技術は、その作成ツールに比べて大きく遅れをとっています。これにより、選挙などの重要な時期に迅速に真偽を判断することが困難になり、偽の情報が広まるスピードに対処できない可能性があります。また、ディープフェイクの品質が向上するにつれて、人々は自分の目や耳を信じることが難しくなり、偽のコンテンツが否定された後も、それに基づく信念や感情が残り続けることがあります。
この問題に対処するためには、政治家や官僚だけでなく、社会全体での取り組みが必要です。規制の導入はその一つの手段ですが、市民権を保護するために慎重に行われる必要があります。また、コンテンツの真正性を証明するためのイニシアチブへの参加や、画像メタデータに透かしを追加するなどの技術的な対策も重要です。しかし、偽物のコンテンツが迅速に広まる現状を考えると、配布の管理もまた重要な課題です。これにより、技術大手企業にさらに多くの力が集中するリスクもありますが、偽情報の拡散を防ぐためには避けられない側面かもしれません。
最終的には、オンラインで見るものに対して批判的な態度を育むことが不可欠です。これは子供たちだけでなく、大人にも同様に必要な教育であり、偽情報に惑わされず、真実を見極める力を身につけることが重要です。このような取り組みを通じて、ディープフェイクによる偽情報の脅威に対抗し、健全な公共の議論を保護することが求められています。
from The Guardian view on political deepfakes: voters can’t believe their own eyes. | Editorial.
