MetaのAI画像生成ツールは、東アジア人の男性と白人女性の画像を生成することができないことが明らかになりました。このツールを使用して、「アジア人男性と白人女性」や「アジア人男性と白人の友人」などのプロンプトで何度も試みましたが、正確な画像を生成できたのは一度だけでした。プロンプトを変更しても、結果は同様で、例えば「アジア人男性と白人女性が犬と一緒に笑顔で」などのプロンプトでも、生成された画像は二人ともアジア人でした。
さらに、このツールは南アジア人を指定した場合にはわずかに良い結果を示しましたが、その後すぐに同じプロンプトで二人とも南アジア人の画像を生成しました。また、要求していないのに、南アジアの女性にビンディやサリを思わせる要素を加えるなど、ステレオタイプに頼る傾向も見られました。
MetaのAI画像生成ツールは、アジア人と白人が一緒にいることを想像できないだけでなく、自動的に返す結果にも偏見の微妙な兆候があります。例えば、アジア人女性を東アジア人のように軽い肌色で表現し、文化的な衣装を無理に加えるなどです。また、生成されるアジア人男性は年配のことが多いのに対し、アジア人女性は常に若く描かれています。
Metaはこの問題についてコメントを出していません。AIシステムは、その作成者、トレーナー、そして使用するデータセットの偏見を反映することがあります。アメリカのメディアでは、「アジア人」とは通常、東アジア人を指すことが多く、他の地域の人々とは異なると見なされがちです。このため、Metaのシステムがすべての「アジア人」を同じように見ると仮定するのは驚くべきことではありません。
【ニュース解説】
MetaのAI画像生成ツールが、東アジア人の男性と白人女性の組み合わせを想像できないという問題が浮き彫りになりました。このツールを使って様々なプロンプトを試したところ、正確な画像を生成できたのは一度だけであり、その他の試みでは、要求した組み合わせとは異なる画像が生成されました。特に、アジア人と白人の組み合わせに関するプロンプトでは、結果が一貫しておらず、南アジア人を指定した場合には少し改善されるものの、ステレオタイプに依存する傾向が見られました。
この問題は、AIシステムが作成者やトレーナー、そして使用されるデータセットの偏見を反映する可能性があることを示しています。アメリカのメディアでは、「アジア人」というカテゴリーが主に東アジア人を指すため、他の地域出身のアジア人が見過ごされがちです。このような偏見は、AIが生成する画像にも影響を及ぼし、特定の人種や文化に対するステレオタイプを強化する結果となっています。
この問題は、AI技術の進歩と普及に伴い、ますます重要になってきています。AIが日常生活の中でさまざまな役割を果たすようになる中で、そのアルゴリズムが公平で偏見のないものであることが求められます。特に、人種や性別、年齢などに関する偏見は、社会的な不平等を助長する恐れがあります。
このような背景から、AIの開発者や利用者は、AIシステムがどのようにしてその結果を出しているのか、そのプロセスを透明にし、偏見を排除するための努力を強化する必要があります。また、多様なデータセットの使用や、AIのトレーニングにおける多様性の確保も重要です。これにより、AIがより公平で包括的な結果を提供し、社会全体の利益に貢献することが期待されます。
最終的に、AI技術の発展は、人間社会の多様性を反映し、それを尊重する方向で進むべきです。AIが生成する画像やコンテンツが、現実世界の多様性を正確に表現し、偏見やステレオタイプを超えたものであることが求められています。これは、技術の進歩だけでなく、社会全体の進歩にも寄与する重要なステップです。
from Meta’s AI image generator can’t imagine an Asian man with a white woman.
