GoogleのCEO、Sundar Pichaiは、Gemini AIが生成した歴史的に不正確な画像とテキストがユーザーを怒らせ、偏見を示したと述べ、これを「完全に受け入れられない」と社内メモで表明しました。具体的には、Gemini AIによって多様な人種のナチス時代のドイツ兵士、非白人のアメリカ建国の父、そしてGoogleの共同創設者の人種を不正確に描写する画像が生成されました。これらの問題を受け、Googleは画像生成機能を一時停止し、問題の解決に取り組んでいると述べています。
Pichaiは、問題のあるテキストと画像のレスポンスに対処するためにチームが絶え間なく取り組んでおり、既に多くのプロンプトにおいて大幅な改善が見られると伝えています。しかし、AIが完璧ではないこと、特にこの産業の発展段階では、とも指摘していますが、Googleに対する期待は高く、問題解決に必要な時間がかかろうとも努力を続けると述べています。
また、Googleの使命は世界の情報を整理し、誰もがアクセスしやすく有用なものにすることであり、これはAI製品を含むすべての製品においても変わらないと強調しています。Pichaiは、構造的変更、製品ガイドラインの更新、ローンチプロセスの改善、評価とレッドチーミングの強化、技術的推奨など、明確なアクションと変更を推進すると述べています。
【ニュース解説】
GoogleのCEO、Sundar Pichaiは、同社のAI技術「Gemini AI」が生成した歴史的に不正確な画像とテキストについて、ユーザーを怒らせ、偏見を示したとして、これを「完全に受け入れられない」と表明しました。具体的には、Gemini AIが多様な人種のナチス時代のドイツ兵士や非白人のアメリカ建国の父、Googleの共同創設者の人種を不正確に描写する画像を生成したことが問題となりました。これを受けて、Googleは画像生成機能を一時停止し、問題の解決に取り組んでいると述べています。
この問題は、AI技術が持つポテンシャルと同時に、そのリスクや課題を浮き彫りにしています。AIが生成するコンテンツの正確性や偏見のなさは、その技術の信頼性に直結します。特に、歴史的な事実や人種の表現に関しては、不正確さや偏見が社会的な不和を引き起こす可能性があります。このため、AI技術の開発と展開においては、高い倫理基準と厳格な品質管理が求められます。
Googleがこの問題に対処するために取り組んでいる改善策は、AI技術の発展における重要なステップです。構造的変更、製品ガイドラインの更新、ローンチプロセスの改善、評価とレッドチーミングの強化、技術的推奨など、これらの取り組みは、AIが生成するコンテンツの品質を向上させ、偏見を排除するために不可欠です。
また、この問題は、AI技術の規制やガイドラインの必要性を示しています。AIが社会に与える影響は大きく、その開発と使用には責任が伴います。政府や業界団体がAI技術の倫理的な使用を促進し、不正確な情報や偏見の拡散を防ぐための規制やガイドラインを設けることが、今後ますます重要になるでしょう。
長期的には、このような問題への対処と学習が、AI技術の健全な発展と社会へのポジティブな貢献につながるはずです。AIが人々の生活を豊かにし、ビジネスや社会の課題解決に貢献するためには、技術的な進歩だけでなく、倫理的な考慮と社会的な責任が不可欠です。Googleのこの問題への取り組みは、AI技術の未来にとって重要な一歩と言えるでしょう。
from Google CEO says Gemini AI diversity errors are ‘completely unacceptable’.
