【ダイジェスト】
オーストラリアのメディア界で、人工知能（AI）の透明性の重要性を浮き彫りにする事件が発生しました。動物正義党の議員、ジョージー・パーセルの写真が、彼女の胸を大きく見せ、元々なかったトップスにクロップを挿入する形でPhotoshopで編集されました。この編集は、Nine Newsによって行われたもので、同社はPhotoshopの「生成的塗りつぶし」という最近導入されたAIツールを使用していたと説明しています。このツールは、画像をリサイズする際に空白をAIで埋める機能を持っています。
Nine Newsは、既にクロップされた画像のバージョンを使用しており、画像の既存の境界を超えて拡大するためにこのツールを使用したと述べています。しかし、画像を変更した人物は、その変更の影響を考慮せずに変更されたバージョンをエクスポートしたと思われます。この事件は、メディア界がますますAIに依存するようになる中で、何が人間によって作成され、何が機械によって作成されたかを判断することがますます困難になり、AIが間違いを説明する便利な言い訳になっていることを示唆しています。
さらに、この事件はNineが放送する画像にAI操作を使用していることを公表せず、オーストラリアのAI倫理原則に違反している可能性があることを示しています。これらの原則は、AIを使用する人々が識別可能であり、結果に対して責任を持ち、人間の監視があるべきだと助言しています。
技術的な側面では、AdobeがAIを訓練するために使用するデータセットに関する疑問が提起されています。Guardian Australiaによる今週のテストでは、女性の画像にAdobeの生成的塗りつぶしを使用すると、しばしばショートパンツが短くなることが示されました。Adobeは、「多様な画像データセット」でモデルを訓練し、有害なステレオタイプを繰り返さないようにモデルを継続的にテストしていると述べています。
この事件は、AIツールが作り出す混乱が、偽の画像、ビデオ、オーディオだけでなく、他のすべてに対する疑念をもたらすことを示しています。メディア企業と技術企業にとって、少なくとも開示が重要であることを意味します。
【ニュース解説】
オーストラリアのメディア業界で、人工知能（AI）の使用に関する透明性の重要性を示す出来事が発生しました。動物正義党の議員であるジョージー・パーセルの写真が、彼女の胸を不自然に大きく見せ、本来存在しないトップスにクロップを挿入する形でPhotoshopによって編集されました。この編集は、Nine Newsによって行われ、同社はPhotoshopの「生成的塗りつぶし」というAIツールを使用していたと説明しています。このツールは、画像をリサイズする際に空白部分をAIで自動的に埋める機能を持っています。
この事件は、メディアがますますAIに依存するようになる中で、何が人間によって作成され、何が機械によって作成されたかを判断することが困難になり、AIが間違いを説明する便利な言い訳になっていることを示しています。また、Nineが放送する画像にAI操作を使用していることを公表せず、オーストラリアのAI倫理原則に違反している可能性があることも示唆されています。これらの原則は、AIを使用する人々が識別可能であり、結果に対して責任を持ち、人間の監視があるべきだと助言しています。
技術的な側面では、AdobeがAIを訓練するために使用するデータセットに関する疑問が提起されています。女性の画像にAdobeの生成的塗りつぶしを使用すると、しばしばショートパンツが短くなるという結果が示されました。Adobeは、「多様な画像データセット」でモデルを訓練し、有害なステレオタイプを繰り返さないようにモデルを継続的にテストしていると述べています。
この事件は、AIツールが作り出す混乱が、偽の画像、ビデオ、オーディオだけでなく、他のすべてに対する疑念をもたらすことを示しています。メディア企業と技術企業にとって、少なくとも開示が重要であることを意味します。AIの使用に関する透明性は、公衆の信頼を維持し、誤解や誤用を防ぐために不可欠です。また、AIによる操作が行われたコンテンツには、その旨を明示することが求められます。これは、視聴者が提供される情報の真実性を判断する上で重要な情報となります。
このような事件は、AI技術の進歩とともに、その使用に関する倫理的なガイドラインや規制の必要性を浮き彫りにします。AIのポテンシャルは無限大ですが、その影響力を正しく管理し、誤用を防ぐためには、技術者、メディア企業、政策立案者が協力して透明性と責任を確保することが重要です。
from Georgie Purcell photoshop scandal shows why transparency is crucial when it comes to AI.
