スペインのアルメンドラレホで、非合意の画像を生成し拡散するClothOffというディープフェイクポルノアプリに関連する事件が発生しました。このアプリの開発者を特定することは難しいものの、BelarusとRussiaに関連する人物の名前が浮上しています。Dasha BabichevaとAlaiksandr BabichauがClothOffに関連している可能性があり、ロンドンに登録された会社Texture OasisとGGSelというオンラインビデオゲームマーケットプレイスとの支払い関連も明らかになりました。
ディープフェイク画像の拡散は、スペインとアメリカで問題となっており、特にポップスターのディープフェイク画像に注目が集まっています。インターネット上で非合意の画像が増加しており、警察は対応に苦慮しています。アメリカ議会では、非合意のディープフェイク画像の作成と拡散を禁止する法案が提出されています。
AIを使用したディープフェイク技術の進化により、誰でも簡単にハイパーリアルな画像を生成できるようになっています。この技術の拡散により、被害者は学校に行けなくなる、パニック発作を起こす、いじめの対象になるなどの被害を受けています。ディープフェイク技術により、現実の人物と偽のアイデンティティを区別することが困難になっています。
ニュース解説
スペインの小さな町アルメンドラレホとアメリカのニュージャージー州で、非合意のディープフェイクポルノ画像を生成し拡散するアプリ「ClothOff」に関連する問題が発生しました。このアプリは、AI技術を利用して、実在する人物の写真から衣服を取り除いたように見せる画像を生成することができます。特に、未成年の少女たちの画像が無断で加工され、インターネット上で拡散される事態が発生しています。
この問題は、ディープフェイク技術の進化と普及により、誰でも簡単にリアルな偽画像を作成できるようになったことが背景にあります。被害者の中には、学校に行けなくなる、パニック発作を起こす、いじめの対象になるなど、深刻な影響を受けている人もいます。また、このような画像がポルノサイトに流出する可能性もあり、被害の拡大が懸念されています。
調査により、ClothOffの背後にはベラルーシやロシアに関連する人物がいることが示唆されています。また、ロンドンに登録された会社やオンラインビデオゲームマーケットプレイスとの支払い関連も明らかになりましたが、アプリの開発者を特定することは依然として困難です。
この問題は、ディープフェイク技術の倫理的な使用に関する議論を促しています。アメリカでは、非合意のディープフェイク画像の作成と拡散を禁止する法案が提出されるなど、規制の動きも見られます。しかし、技術の進化に対する法律や規制の追随は難しく、国際的な協力が必要とされています。
ディープフェイク技術は、エンターテイメントや教育など、正の側面を持つ一方で、プライバシーの侵害や偽情報の拡散など、潜在的なリスクも伴います。この技術の発展と普及に伴い、個人の尊厳を守りつつ、健全な利用を促進するためのガイドラインや法律の整備が急務となっています。また、ディープフェイク技術による被害を未然に防ぐための教育や啓発活動も重要です。将来的には、AI技術を利用してディープフェイク画像を検出し、対処する技術の開発も期待されています。
from Revealed: the names linked to ClothOff, the deepfake pornography app.
