データ保護のための新しい方法が開発されており、Fawkesというツールが顔認識システムを妨害する目的でリリースされました。この技術は画像、音声、テキストなど、さまざまなメディアに適用されています。機械学習の分野でのデータ保護技術の開発は比較的珍しい動きです。
生成AIモデルによるアーティストの作品の無断使用問題が浮上しています。アーティストたちは、自分たちの作品が無断で使用されることにより収入やアイデンティティの喪失を経験しています。データ保護のための技術開発が進められており、データの毒化や出力の編集などが試みられています。GlazeやNightshadeといったツールがアーティストの作品保護に利用されています。
データ保護技術の応用範囲は拡大しており、画像だけでなく音声やテキストなど他の表現形式にも適用されています。AntiFakeというツールはAIによる音声合成を防ぐために開発されました。また、モデルが生成する内容から特定の概念を消去する研究も行われています。これらの技術開発はアーティストやデータ所有者により多くの制御権を与えることを目指しています。
ニュース解説
デジタル時代において、アーティストやコンテンツクリエーターたちは、自分たちの作品が無断で使用されることによる収入やアイデンティティの喪失に直面しています。特に、生成型AI（人工知能）モデルがインターネットから画像やテキストを収集し、それらを学習材料として使用することで、オリジナルの作品を模倣する能力を持つようになったことが問題となっています。このような背景の中、データ保護のための新しい技術が開発されています。
Fawkesというツールは、デジタルポートレートのピクセルを微妙に変更し、自動顔認識システムが画像を理解できなくすることで、顔認識システムを妨害する目的でリリースされました。この技術は、画像だけでなく、音声やテキストなど、さまざまなメディアに適用可能です。GlazeやNightshadeといったツールは、アーティストが自分たちのスタイルでの作品生成を防ぐために利用されています。たとえば、Nightshadeは画像の一部を微妙に変更して、人間には変わらないように見えても、AIモデルには異なる特徴を持つものとして認識させることができます。
さらに、AntiFakeというツールは、AIによる音声合成を防ぐために開発されました。このツールは、音声波形の特定の部分を微調整することで、AIモデルがその音声を学習するのを防ぎますが、人間の耳には変化がほとんど感じられません。
これらの技術開発の背景には、アーティストやデータ所有者が自分たちの作品やデータに対する制御権を取り戻すという目的があります。しかし、これらの技術が広く利用されるようになると、AIモデルの学習プロセスやデータの利用方法に大きな影響を与える可能性があります。一方で、これらの防御技術に対する回避策が開発される可能性もあり、セキュリティとプライバシーの保護に関する継続的な取り組みが求められます。
長期的には、これらの技術開発が法律や規制の形成に影響を与え、デジタルコンテンツの使用と保護に関する新たな基準を設定する可能性があります。アーティストやコンテンツクリエーターにとっては、自分たちの作品を守るための有効な手段となり得ますが、技術の進化に伴い、新たな課題やリスクに対応する必要があるでしょう。
from Poisoning Data to Protect It.
