from Dark Corners of the Web Offer a Glimpse at A.I.’s Nefarious Future.
ウェブの暗部がAIの悪用の未来を示唆 – ニューヨーク・タイムズ
AI技術が悪意あるインターネットユーザーの手に渡ると、ハラスメントや人種差別的なコンテンツの波を生み出す可能性がある。匿名掲示板4chanで既にそのような事例が発生している。ルイジアナ州の仮釈放委員会が殺人犯の釈放を検討した際、証言した医師の画像がAIツールを使って不適切に改ざんされ、4chanで共有された。コロンビア大学の大学院生ダニエル・シーゲルは、AIが悪用される事例を数ヶ月にわたって追跡した。
これらの改ざんされた画像や音声は4chanの外にはあまり広がっていないが、専門家は、今後数ヶ月から数年にわたって、高度なAIツールがオンラインでのハラスメントやヘイトキャンペーンを強化する手段として悪用される可能性を示唆している。デジタルヘイトを取り締まるセンターの研究責任者カラム・フッドは、4chanのようなフリンジサイトが新技術がどのように極端なアイデアを広めるために使われるかの早期警告信号を発していると述べた。
AIツールによる問題点と、規制当局や技術企業がそれにどう対処しているかについてのいくつかの例が挙げられている。AIによる偽画像やポルノ、声のクローニング、カスタムAIツールなどが問題視されており、イリノイ州、カリフォルニア州、バージニア州、ニューヨーク州などは、同意なしにAI生成のポルノを配布または作成することを禁じる法律を制定している。
スチュアート・A・トンプソンは、オンラインで広がる虚偽や誤解を招く情報について執筆しており、特にデマやその他の誤解を招くコンテンツに焦点を当てている。
