アメリカでは重要な大統領選挙が迫っており、ドイツでも「スーパー選挙年」が控えています。このタイミングで、生成型AI技術が十分に発展し、潜在的な有権者をオンラインで見る画像やテキストを通じて積極的に影響を与える可能性があるとされています。これにより、2024年を「最初のAI選挙」と呼ぶ声もあります。
SophosのField CTOであるChester Wisniewskiは、AIの自由なアクセスが一般に提供されることは有益だが、その効果的な利用方法は別の問題であると指摘しています。Sophosでは、AIを活用して研究プロセスの加速や大量のデータ分析を支援するために、独自のモデルを開発し訓練に多くの時間と財源を投じています。しかし、悪意のある目的でAIを利用しようとする者もおり、彼らは通常のユーザーよりも効果的な偽コンテンツを生成するために、より多くの資金を投じることができます。
AIの使用に関しては多くのディスインフォメーションが存在し、過去のアメリカの選挙サイクルでは、編集されたビデオや実際には言われていない言葉を挿入したビデオが見られました。現在、声や画像のクローニングが技術的に可能になっていますが、これを効果的に行うことができるのは、十分なリソースと専門知識を持つ組織や国家に限られます。
最大の現在のリスクは、特定の政治的アジェンダを推進するために大量の偽アカウントを生成することです。大規模な言語モデルは、外国のアクターが以前には不可能だった速度と規模で偽装することを可能にします。しかし、実際の政治的ディープフェイクはまだほとんど存在せず、AIによる詐欺行為がより洗練されたわけではなく、単に効率的になっただけです。
AIを利用した詐欺活動は、従来の武器に比べてコストが非常に低いため、ほぼすべての国が大規模なディスインフォメーションキャンペーンを実施する財政的能力を持っています。しかし、2024年に個々のアクターによるこのような活動が見られる可能性はまだ遠いと考えられています。
【ニュース解説】
アメリカでは重要な大統領選挙が迫り、ドイツでも「スーパー選挙年」が控えている中、生成型AI技術が選挙に与える影響についての議論が高まっています。この技術の発展により、潜在的な有権者をオンライン上で見る画像やテキストを通じて積極的に影響を与えることが可能になり、2024年を「最初のAI選挙」と呼ぶ声も出ています。
SophosのField CTOであるChester Wisniewskiは、AIの自由なアクセスが一般に提供されることは有益だが、その効果的な利用方法は別の問題であると指摘しています。Sophosでは、AIを活用して研究プロセスの加速や大量のデータ分析を支援するために、独自のモデルを開発し訓練に多くの時間と財源を投じています。しかし、悪意のある目的でAIを利用しようとする者もおり、彼らは通常のユーザーよりも効果的な偽コンテンツを生成するために、より多くの資金を投じることができます。
AIの使用に関しては多くのディスインフォメーションが存在し、過去のアメリカの選挙サイクルでは、編集されたビデオや実際には言われていない言葉を挿入したビデオが見られました。現在、声や画像のクローニングが技術的に可能になっていますが、これを効果的に行うことができるのは、十分なリソースと専門知識を持つ組織や国家に限られます。
最大の現在のリスクは、特定の政治的アジェンダを推進するために大量の偽アカウントを生成することです。大規模な言語モデルは、外国のアクターが以前には不可能だった速度と規模で偽装することを可能にします。しかし、実際の政治的ディープフェイクはまだほとんど存在せず、AIによる詐欺行為がより洗練されたわけではなく、単に効率的になっただけです。
AIを利用した詐欺活動は、従来の武器に比べてコストが非常に低いため、ほぼすべての国が大規模なディスインフォメーションキャンペーンを実施する財政的能力を持っています。しかし、2024年に個々のアクターによるこのような活動が見られる可能性はまだ遠いと考えられています。
この技術の進化は、選挙プロセスにおける情報の真実性を保証するための新たな課題を生み出しています。一方で、AIのポテンシャルを活用して選挙プロセスを強化し、有権者への情報提供を改善する方法も模索されています。しかし、偽情報の拡散やディープフェイク技術の悪用など、潜在的なリスクに対処するための規制や対策の強化が急務となっています。将来的には、AI技術が選挙の透明性と公正性を高めるためのツールとして活用される可能性もありますが、そのためには技術的な進歩だけでなく、倫理的なガイドラインの確立や国際的な協力が不可欠です。
from Die eine Million-Dollar-Frage oder: Wird KI unsere Wahlen verändern?.
