マイクロソフトのAIエンジニア、シェーン・ジョーンズが、同社のAI画像生成ツール「Copilot Designer」に関する安全性の懸念を連邦取引委員会（FTC）に警告した。ジョーンズによると、このツールは、悪魔やモンスター、暴力的なシーン、性的なイメージ、未成年の飲酒や薬物使用など、有害な画像を生成する能力があるにも関わらず、マイクロソフトはこれらの問題に対処せず、Copilot Designerの使用を停止することを拒否している。
さらに、Copilot Designerは、ディズニーキャラクターのエルサをガザ地区の破壊された建物の前やイスラエル国防軍の制服を着てイスラエルの旗が描かれた盾を持つシーンで生成したと報告されている。ジョーンズは、Copilot Designerが使用するモデルDALLE-3について、安全対策が強化されるまで公開使用を停止するようマイクロソフトに繰り返し促してきたが、同社はこれを実施せず、引き続き製品を市場に出している。
また、ジョーンズは以前、Copilot Designerがテイラー・スウィフトの露骨な画像を生成し、それがX上で急速に広まった後、米国の上院議員に懸念を伝えたことがある。これに対し、マイクロソフトのCEOサティア・ナデラは、その画像を「驚くべきものであり、ひどい」と評し、より多くの安全対策を追加することを約束した。一方で、Googleも自社のAI画像生成ツールが人種的に多様なナチスや歴史的に不正確な画像を生成したことが発見され、一時的にそのツールの使用を停止している。
【ニュース解説】
マイクロソフトのAIエンジニア、シェーン・ジョーンズが、同社のAI画像生成ツール「Copilot Designer」に関する安全性の懸念を連邦取引委員会（FTC）に警告した事件について、その背景と意味を掘り下げてみましょう。
Copilot Designerは、ユーザーが入力したテキストに基づいて画像を生成するAIツールです。しかし、このツールが生成する画像には、暴力的なシーンや性的なイメージ、未成年の飲酒や薬物使用など、社会的に受け入れがたい内容が含まれることがあるとジョーンズは指摘しています。さらに、ディズニーキャラクターを政治的・軍事的な状況に配置するなど、著作権やイメージの問題も発生しています。
この問題は、AI技術の急速な発展とその社会への影響を考える上で重要な事例です。AIが生成するコンテンツの倫理性や安全性について、技術者や企業だけでなく、社会全体で考える必要があることを示しています。特に、AIが人間の介入なしにコンテンツを生成する場合、そのフィルタリングや監視の仕組みがどのように機能するかが重要な課題となります。
ポジティブな側面としては、AIによる画像生成技術は、デザインやクリエイティブな作業を効率化し、新たな表現の可能性を広げることができます。しかし、潜在的なリスクとしては、不適切なコンテンツの拡散、著作権の侵害、社会的・倫理的な問題の引き起こしといった点が挙げられます。
規制に与える影響としては、この事件がAI技術に関する法律や規制の整備を加速させる可能性があります。AIによるコンテンツ生成の倫理基準や安全基準の設定、AI技術の使用に関する透明性の確保などが議論されることになるでしょう。
将来への影響や長期的な視点では、AI技術の発展と社会への適応は並行して進められる必要があります。技術の進歩に伴うリスクを最小限に抑えつつ、その利益を最大化するためには、技術者、企業、政府、市民社会が協力して、ガイドラインの策定や教育の普及などに取り組むことが求められます。
この事件は、AI技術の社会への導入において、技術的な進歩だけでなく、倫理的、社会的な側面も重視する必要があることを改めて浮き彫りにしました。
from Microsoft AI engineer warns FTC about Copilot Designer safety concerns.
