AIツールが選挙に関連する誤解を招く画像を依然として生成していることが、Center for Countering Digital Hate (CCDH)の新しい報告書で明らかになりました。AI企業は画像生成ツールが選挙関連のデマを広めるために使用されるのを防ぐためのポリシーを設けていると述べていますが、研究者たちはこれらのセーフガードを回避し、関連画像を作成することができました。
研究者たちは、ChatGPT Plus、Midjourney、Dream Studio、Image Creatorの4つのプラットフォームで160のプロンプトをテストし、Midjourneyが約65％の確率で誤解を招く選挙関連画像を生成することが最も多いことを発見しました。一方、ChatGPT Plusでは28％の確率でしか該当画像を生成できませんでした。
OpenAIは、技術が民主的プロセスへの参加を妨げる画像の生成を禁止するなど、この問題に対処するための措置を講じていると発表しました。Midjourneyは政治画像の生成を全面的に禁止することを検討していると報じられています。Dream Studioは誤解を招くコンテンツの生成を禁止していますが、選挙に関する特定のポリシーは明確ではありません。Image Creatorは選挙の完全性を脅かすコンテンツの生成を禁止していますが、公人の画像生成は許可しています。
しかし、CCDHのCallum Hood氏は、誤解を招く画像の生成を防ぐだけでなく、プラットフォームがそれを検出し削除する能力も必要であると指摘しています。最近のIEEE Spectrumの報告によると、MetaのAI生成コンテンツのウォーターマーキングシステムは簡単に回避されてしまうことがわかりました。
選挙がAI画像の安全性を試す重要なテストになるとHood氏は述べており、特に選挙が盗まれたという主張を促進したり、投票を思いとどまらせる画像に関して、ツールとプラットフォームがさらなる進歩を遂げる必要があると強調しています。
【ニュース解説】
AI技術の進化により、選挙に関連する誤解を招く画像を生成することが可能になっています。Center for Countering Digital Hate (CCDH)による新しい報告書では、AI企業が選挙関連のデマを広めるために使用されるのを防ぐためのポリシーを設けているにも関わらず、研究者たちはこれらのセーフガードを回避し、関連画像を作成することができたと報告しています。
この問題は、AIが生成する画像が選挙の信頼性に与える影響に関して、重要な懸念を提起しています。特に、Midjourneyなどのプラットフォームは、誤解を招く選挙関連画像を生成する可能性が高いことが示されています。これは、AI技術が民主的プロセスに与える潜在的なリスクを浮き彫りにしています。
AI企業は、技術が不正確な情報の拡散に利用されないように、さまざまな措置を講じています。例えば、OpenAIは民主的プロセスへの参加を妨げる画像の生成を禁止すると発表しました。しかし、CCDHの報告によると、これらの措置は十分ではなく、誤解を招く画像の生成を完全に防ぐことはできていません。
この問題に対処するためには、AIプラットフォームが誤解を招く画像の生成を防ぐだけでなく、生成された画像を検出し削除する能力も必要です。しかし、現在のところ、プラットフォームはこのような画像を効果的に管理する準備が整っていないとの指摘があります。
選挙に関連する誤解を招く画像の生成と拡散は、民主主義にとって深刻な脅威をもたらします。これは、有権者が事実に基づいた意思決定を行うことを妨げ、選挙の正当性に対する信頼を損なう可能性があります。そのため、AI技術の進化とともに、これらの課題に対処するための新たな規制やポリシーの開発が求められています。
長期的には、AI技術の進歩がもたらすポジティブな側面と潜在的なリスクのバランスを取ることが重要です。AIが選挙プロセスを強化し、民主主義を促進するためのツールとして利用されることを目指しつつ、誤情報の拡散を防ぐための効果的な対策を講じる必要があります。
from AI Tools Are Still Generating Misleading Election Images.
