Googleの最高経営責任者（CEO）であるSundar Pichaiは、同社の人工知能（AI）モデル「Gemini」が、第二次世界大戦中のドイツ兵士を含む歴史上の人物を様々な民族や性別で描写したことに対し、一部の反応が「偏見を持っており、完全に受け入れがたい」と述べ、ユーザーからの批判を受けていることを認めました。このAIツールによって生成された画像やテキストは、ソーシャルメディア上で広く共有され、議論を呼んでいます。例えば、Geminiの画像生成機能は、ポープやアメリカ建国の父、バイキングなどを異なる民族や性別で表現していました。Googleはこの問題を受けて、人物の画像を作成するGeminiの機能を一時停止しました。
Pichaiは、Googleがこの問題に対処するために「構造的な変更、製品ガイドラインの更新、改善されたローンチプロセス」を含む一連の対策を講じると述べ、より強固な「レッドチーミング」（製品の誤用をシミュレートするプロセス）を実施すると付け加えました。彼は、Googleのミッションは「世界の情報を整理し、誰もがアクセスしやすく有用なものにすること」であり、これがGoogleの製品、特に新興のAI製品におけるアプローチでなければならないと強調しました。
また、Google DeepMindのCEOであるDemis Hassabisは、Geminiに搭載された「多様性を生み出すための機能」が「あまりにも無分別に」展開されたと述べました。Googleは、AIチャットボット「Bard」を1年前にリリースし、この月に「Gemini」と改名して有料サブスクリプションプランを導入しました。これにより、ユーザーはAIモデルからより優れた推論能力を得ることができます。
【ニュース解説】
Googleの最高経営責任者（CEO）、Sundar Pichaiは、同社の人工知能（AI）モデル「Gemini」が、歴史上の人物を様々な民族や性別で描写したことにより、ユーザーからの批判を受けたことを認めました。このAIツールによって生成された画像やテキストは、特に第二次世界大戦中のドイツ兵士を人種的に多様な形で表現したことで、ソーシャルメディア上で広く共有され、議論を呼んでいます。Googleはこの問題に対応するため、人物の画像を作成するGeminiの機能を一時停止し、一連の対策を講じることを発表しました。
この事態は、AIが生成するコンテンツの偏見という、技術界全体で長年にわたって指摘されてきた問題を浮き彫りにしています。AIモデルは、それを訓練するために使用されるデータセットに含まれる偏見を学習し、再現する傾向があります。このため、AIによって生成されるコンテンツが、意図せずして偏見を持ったり、不適切な表現をすることがあります。
Googleは、この問題に対処するために「構造的な変更、製品ガイドラインの更新、改善されたローンチプロセス」を含む一連の対策を講じると述べています。また、「レッドチーミング」というプロセスを通じて、製品の誤用をシミュレートし、問題を事前に特定することで、より健全なAI製品の開発を目指しています。
この問題は、AI技術の進歩と普及に伴い、AIが生成するコンテンツの倫理的な側面や、その影響について、開発者や利用者がより一層注意深く考慮する必要があることを示しています。AIによるコンテンツ生成がもたらすポジティブな側面と同時に、潜在的なリスクや課題に対しても、適切な規制やガイドラインの整備が求められています。
長期的には、AI技術の発展によって、より正確で公平な情報提供が可能になる一方で、技術の偏見を最小限に抑え、多様性を尊重するための取り組みが、ますます重要になってくるでしょう。Googleのこの一件は、AI技術の倫理的な使用に関する議論を促進し、将来的により良いAI製品の開発へと繋がる重要な一歩となる可能性があります。
from Google chief admits ‘biased’ AI tool’s photo diversity offended users.
