【ダイジェスト】
AI技術の進歩により、さまざまな可能性が広がっていますが、その一方で、新たな問題も浮上しています。特に、人工知能を利用したフェイクポルノの拡散は、多くの懸念を引き起こしています。
最近、X（旧Twitter）上で、アメリカの人気歌手テイラー・スウィフトを題材にした性的に露骨なAI生成画像が拡散され、大きな問題となっています。これらの画像は、一部のトロールによって投稿され、その中でも特に注目を集めた投稿は、4500万回以上の視聴数を記録し、24000回以上リポストされ、数十万の「いいね」とブックマークを獲得しました。しかし、この投稿はプラットフォームのポリシーに違反しているとして、約17時間後に削除され、投稿者のアカウントも停止されました。
問題は、この投稿が削除された後も、多くのユーザーが画像を再投稿し、新たな露骨なフェイク画像が次々と現れたことです。一部の地域では「テイラー・スウィフト AI」という言葉がトレンド入りし、さらに多くの人々にこれらの画像が広まる結果となりました。
Xのポリシーは、合成メディアや操作されたメディア、そして無断での裸体の画像の掲載を禁止していますが、それにもかかわらず、多くの投稿が長時間にわたって生き残っていることに対し、テイラー・スウィフトのファンたちは批判を強めています。ファンたちは、露骨なフェイク画像を隠すために、テイラー・スウィフトが実際にパフォーマンスをしている本物のクリップを宣伝するメッセージでハッシュタグを埋め尽くすことで対抗しています。
AI画像生成ツールの中には、ヌードやポルノ、有名人のフォトリアルな画像の生成を防ぐための制限を設けているものもありますが、そのようなサービスを明示的に提供していないものも多く存在します。フェイク画像の拡散を防ぐ責任は、しばしばソーシャルプラットフォームに委ねられていますが、これは最良の状況下でも困難であり、モデレーション機能を削減しているXのような企業にとってはさらに難しい課題です。
現在、XはEUによって「違法なコンテンツやディスインフォメーションの拡散」に使用されているという主張に関して調査を受けており、イスラエルとハマスの戦争に関する誤情報がプラットフォーム上で広められた後、その危機対応プロトコルについても問われていると報じられています。
このような事態は、AIによるディープフェイクポルノや実在する人物の画像生成がもたらす現実の課題を浮き彫りにしています。テクノロジーの進歩がもたらす恩恵と同時に、それに伴うリスクについても、社会全体で真剣に向き合う必要があるでしょう。
【ニュース解説】
AI技術の進化により、リアルな画像や動画を生成することが可能になりましたが、その技術が悪用されるケースも増えています。最近、X（旧Twitter）では、アメリカの歌手テイラー・スウィフトを題材にした性的なAI生成画像が拡散され、大きな問題となっています。これらの画像は、一部のユーザーによって投稿され、多くの視聴数と共有を集めましたが、プラットフォームのポリシー違反により、投稿者のアカウントは停止され、投稿は削除されました。
しかし、問題の画像は削除された後も他のアカウントによって再投稿され、新たな露骨なフェイク画像が次々と現れています。これにより、テイラー・スウィフトのファンは、フェイク画像を隠すために、彼女の実際のパフォーマンスのクリップを宣伝するメッセージでハッシュタグを埋め尽くすなどの対策を取っています。
AI画像生成ツールは、ヌードやポルノ、有名人のフォトリアルな画像の生成を防ぐための制限を設けているものもありますが、すべてがそういった制約を持っているわけではありません。フェイク画像の拡散を防ぐ責任はソーシャルプラットフォームにあるとされていますが、これは非常に困難な作業であり、特にモデレーション機能を削減している企業にとってはさらに難しい課題です。
この事件は、AIによるディープフェイクポルノや実在する人物の画像生成が社会に与える影響を示しています。テクノロジーの恩恵を享受する一方で、プライバシーや倫理的な問題、法的な規制など、多くの課題に直面しています。今後、AI技術の発展と共に、これらの問題に対する解決策を見つけ、適切な規制を設けることが求められています。
from Trolls have flooded X with graphic Taylor Swift AI fakes.
