Googleは、そのGemini AIが人物の画像を生成する機能を一時停止しました。この措置は、歴史的な画像の生成において不正確さが見られた後に取られました。Geminiは、アメリカ建国の父やナチス時代のドイツ兵士の多様な画像を生成していましたが、これは生成AIに見られる性別や人種のステレオタイプを覆す試みのようでした。
Googleは声明で、「Geminiの画像生成機能に最近発生した問題に対処するために既に取り組んでいます。これを行う間、人物の画像生成を一時停止し、改善されたバージョンを近々再リリースする予定です」と述べています。
この決定は、GoogleがAIモデルが生成した一部の歴史的画像の不正確さについて謝罪してから24時間以内に行われました。Geminiのユーザーの中には、建国の父などの歴史的なグループや人物の画像をリクエストし、結果として非白人のAI生成人物が表示されることがありました。これがオンラインでの陰謀論につながり、Googleが意図的に白人を描写しないようにしているというものです。
Googleは、OpenAIやMicrosoftのCopilotと競合するために、今月初めにGemini（以前のBard）を通じて画像生成を提供し始めました。
【ニュース解説】
Googleは、自社の人工知能(AI)ツールであるGeminiが生成する人物画像の機能を一時停止すると発表しました。この措置は、Geminiが歴史的人物やグループの画像を生成する際に、不正確な内容や多様性に関するエラーが発生したために取られました。具体的には、アメリカの建国の父やナチス時代のドイーツ兵士などの画像を生成する際に、性別や人種のステレオタイプを覆す試みが逆に新たな問題を生じさせたのです。
この問題は、特に歴史的な人物やグループの画像をリクエストした際に、期待される人種や性別とは異なる結果が表示されることで顕著になりました。例えば、建国の父の画像をリクエストしたユーザーが非白人のAI生成人物の画像を受け取るなどのケースがありました。これはオンライン上での陰謀論を引き起こし、Googleが意図的に白人を描写しないようにしているという誤解を招く結果となりました。
Googleは、この問題に対処するために、人物画像の生成機能を一時停止し、改善されたバージョンを近々リリースする予定であると述べています。この決定は、GoogleがAIモデルによって生成された一部の歴史的画像の不正確さについて謝罪してから24時間以内に行われました。
この出来事は、AI技術の進歩とともに、その応用における倫理的な課題や多様性の問題が浮き彫りになっていることを示しています。AIが生成するコンテンツの正確性や偏りのない表現は、技術の発展に伴いますます重要になっています。また、このような問題は、AI技術の開発者や提供者が、そのアルゴリズムやデータセットの偏りを慎重に評価し、多様性と公平性を確保するための取り組みを強化する必要があることを強調しています。
長期的には、このような問題への対応と改善が、AI技術の社会的受容性を高め、より公正で包括的なデジタル社会の実現に寄与することが期待されます。同時に、AI技術の進化は、規制やガイドラインの更新を必要とすることも示唆しており、技術、倫理、法律の各分野が連携して取り組むべき課題が多く存在します。
from Google pauses Gemini’s ability to generate AI images of people after diversity errors.
