【ダイジェスト】
Midjourney、AIによる政治画像の生成を禁止検討中
人工知能画像生成企業Midjourneyは、2024年のアメリカ大統領選挙において、ジョー・バイデンやドナルド・トランプなどの政治画像の生成を使用者が行うことを禁止することを検討しています。同社のCEO、デイビッド・ホルツは、選挙期間中の誤情報や注意散漫を避けるためにこの措置を取ることを示唆しました。
AIによる画像生成が問題視されており、特にテイラー・スウィフトの似顔絵を含むポルノ画像が法律家やファンからの保護強化の要求を引き起こしています。これらの画像は、しばしばAIを使用して性的、人種差別的、陰謀論的、暴力的、またはその他の反社会的な内容を共有することで知られるコミュニティメッセージボード4chanに遡ります。
AIが政治領域での懸念を引き起こしている中、Inflection AIは同社のチャットボットPiが政治候補者を支持することを許可しないと発表しました。また、MetaのFacebookはAIツールを使用して作成された投稿にラベルを付ける計画を発表し、Microsoft関連のOpenAIはAIによって生成された画像にウォーターマークを追加し、政治的ディープフェイクの対策を講じると述べました。
Midjourneyは、トランプがエージェントに手錠をかけられている偽の画像など、既にオンラインで現れた画像に対していくつかの安全対策を講じています。しかし、政治画像の生成を禁止する場合、消費者や有権者はその措置について知らされない可能性があります。
【ニュース解説】
人工知能（AI）技術を用いた画像生成が、政治的な画像の作成にも応用されている現代において、MidjourneyというAI画像生成企業が、2024年のアメリカ大統領選挙に向けて、ジョー・バイデンやドナルド・トランプなどの政治人物の画像生成を禁止することを検討しています。この措置は、選挙期間中の誤情報の拡散や注意の散漫を防ぐためのものです。AIによる画像生成が、特に性的、人種差別的、陰謀論的、暴力的な内容の共有に利用されることが問題視されており、このような背景があります。
AI技術の進化により、非常にリアルな偽画像や偽動画（ディープフェイク）を作成することが可能になっています。これにより、政治的な誤情報や偏見を拡散するツールとして利用されるリスクが高まっています。例えば、選挙に影響を与えるために、特定の政治家を不利に見せる偽の画像や動画が作成され、SNSを通じて広まる可能性があります。このような状況は、民主主義の根幹を揺るがす可能性があるため、Midjourneyのような企業が前もって対策を講じることは重要です。
一方で、AIによる画像生成技術は、教育、エンターテイメント、デザインなど、多くの分野で革新的な利用が期待されています。この技術により、リアルなシミュレーションや新しいアートの創出、教材の開発などが可能になります。しかし、その技術が誤用されることによる社会的なリスクも同時に高まっているため、技術の発展と共に、その使用に関する倫理的なガイドラインや規制の整備が求められます。
Midjourneyのような企業が自主的に政治画像の生成を制限する動きは、AI技術の責任ある使用に向けた一歩と言えます。しかし、技術の進化に伴い、国際的な枠組みや法律による規制、AI技術の透明性と説明責任の確保など、より広範な対策が必要になるでしょう。また、AI技術の発展に伴う倫理的な問題に対して、社会全体での議論と理解が深まることが望まれます。
from AI firm considers banning creation of political images for 2024 elections.
