Googleは、最新のAIモデル「Gemini」が「ウォーク（社会正義に敏感）」すぎるとして批判を受け、謝罪しました。Geminiは、歴史上の人物を生成する際に、一般的に白人男性であるバイキングや教皇、ドイツ兵士を女性や有色人種として描写することがデフォルトになっているとの苦情を受け、画像生成機能を停止しました。アルファベットのCEO、サンダー・ピチャイはスタッフに向けて謝罪のメモを送り、「一部のユーザーを不快にさせ、偏見を示したことを認識しています。これは完全に受け入れられないことで、私たちは間違っていました」と述べました。
GoogleのGeminiに対する批判は、ソーシャルメディア上で保守派からの声によってさらに強まっています。エロン・マスクはX上で、Geminiが核戦争を回避する唯一の方法がケイトリン・ジェンナーの性別を誤って表現することである場合でも、それを受け入れられないと述べたスクリーンショットを投稿し、「Google Geminiは極めて人種差別的で性差別的だ」と書きました。
Googleは過去に、アルゴリズムの出力の多様性を高めるために検索エンジンを調整し、CEOを描写する画像において女性や有色人種をより多く表示するようにしていました。しかし、Geminiは、バイアスを補正するための調整が過剰になったか、調整の結果を適切にテストしていなかった可能性があります。
Googleは、倫理的な懸念から強力なチャットボットのリリースを控えるなど、AI技術のリリースに関してかつてはより慎重なアプローチを取っていました。しかし、OpenAIのChatGPTが世界を席巻した後、Googleは異なる方向にシフトしました。急いでいるために、品質管理が損なわれたようです。
AIモデルの調整方法は、これらのモデルが改善され、より多くの権限を与えられるにつれて、より論争の的になり、重要になると予測されています。AIシステムのバイアスを修正するための取り組みは、しばしば表面的な解決策に過ぎず、深刻なシステム的な解決策ではないと指摘されています。
【ニュース解説】
Googleの最新AIモデル「Gemini」が、歴史上の人物を描写する際に「ウォーク（社会正義に敏感）」すぎるとして批判を受け、謝罪に至った事件が発生しました。このモデルは、一般的に白人男性とされるバイキングや教皇、ドイツ兵士などの画像を生成する際に、女性や有色人種をデフォルトで表示するようになっていたため、不満の声が上がりました。これに対し、Googleは画像生成機能を停止し、公に謝罪しました。また、エロン・マスクは、Geminiが極端な例を挙げても性別の誤表現を受け入れられないとするスクリーンショットを公開し、このAIを人種差別的で性差別的だと批判しました。
この問題は、AIが社会的な価値観やバイアスにどのように対応すべきかという、より広範な議論を浮き彫りにしています。AIモデルは、トレーニングデータに含まれる偏見を反映することがあり、これを是正するための「ファインチューニング」が必要になります。しかし、GoogleのGeminiのケースでは、この調整が過剰になり、新たな問題を引き起こした可能性があります。これは、AIの開発において、バイアスの是正と社会的な受容性のバランスを取ることがいかに難しいかを示しています。
AI技術の進化に伴い、その倫理的な側面や社会的な影響に対する議論は今後も激化することが予想されます。AIモデルがより高度になり、重要な決定を下すようになるにつれて、その価値観や判断基準が社会にどのような影響を与えるかが、重要な問題となってきます。また、AIシステムのバイアスを修正する取り組みが、表面的な解決策に留まらず、より根本的な問題に対処する必要があることも、この事件は浮き彫りにしています。
このような背景から、AIの開発と運用においては、技術的な側面だけでなく、倫理的、社会的な側面も十分に考慮することが求められます。AIが社会に受け入れられ、有益な役割を果たすためには、多様な視点を取り入れ、広範なステークホルダーとの対話を通じて、その方向性を慎重に検討する必要があります。
from The AI Culture Wars Are Just Getting Started.
