アメリカは、生成AIツールが主流になって以来初めての大統領選挙に向かっています。Google、OpenAI、Microsoftなどの企業は、選挙に先立ち、誤情報のリスクにどう対処するかについて発表しました。
AI生成の画像や声のクローニングを使った有権者への誤解を招く試みが既に見られますが、AIチャットボットからの潜在的な害はまだ一般にはあまり知られていません。しかし、チャットボットは基本的な投票情報に関する誠実な質問に対しても、作り話の事実を自信を持って提供することがあります。
Googleは、Geminiがアメリカでの選挙関連の質問には回答せず、代わりにGoogle検索を参照するようにすると発表しました。OpenAIは、ChatGPTがCanIVote.orgを参照するようにし、候補者や地方政府のなりすまし、キャンペーンやロビー活動、投票を妨げる行為、投票プロセスの誤解を招く行為を禁止しました。Microsoftは、Bing（現在はCopilotとして知られる）が選挙に関する誤った情報を定期的に提供しているとの報告を受け、チャットボットの回答の正確性を向上させる取り組みをしています。
これらの企業は、AI生成の画像にデジタル透かしを入れる、AI生成のコンテンツを示すデジタル認証を使用するなど、製品の意図的な悪用を防ぐために様々な取り組みをしています。また、複数の企業が、選挙でのAIの欺瞞的な使用を軽減する新しい方法を作ることを約束する協定に署名しました。これらの企業は、予防方法の研究と展開、コンテンツの出所の提供、AI検出能力の向上、誤解を招くAI生成コンテンツの影響の評価と学習など、7つの「原則目標」に同意しました。
【ニュース解説】
アメリカでは、生成AIツールが一般に普及した後初めての大統領選挙が近づいています。この新しい技術の台頭は、選挙プロセスにおける誤情報のリスクを新たな次元に押し上げています。AIによって生成された画像や声のクローニング技術を使った有権者への誤解を招く試みがすでに見られる中、AIチャットボットからの潜在的な害は、特に注目されています。これらのチャットボットは、投票に関する基本的な情報に対する質問に対しても、根拠のない事実を自信を持って提供することがあり、これが高いリスクをもたらす可能性があります。
Google、OpenAI、Microsoftなどの主要なAI企業は、この問題に対処するために様々な対策を講じています。例えば、GoogleはそのAIチャットボットGeminiが選挙関連の質問には回答せず、Google検索へのリンクを提供するようにしました。OpenAIは、ChatGPTが有権者にCanIVote.orgを参照するようにし、候補者や地方政府のなりすましや、投票プロセスの誤解を招く行為を禁止しました。Microsoftも、チャットボットの回答の正確性を向上させる取り組みを進めています。
さらに、これらの企業はAI生成の画像にデジタル透かしを入れる、AI生成のコンテンツを示すデジタル認証を使用するなど、製品の意図的な悪用を防ぐための様々な取り組みをしています。また、選挙でのAIの欺瞞的な使用を軽減する新しい方法を作ることを約束する協定に署名するなど、業界全体での取り組みも進められています。
これらの対策は、AI技術がもたらすポジティブな側面と潜在的なリスクのバランスを取るためのものです。AIチャットボットは、有権者が迅速に正確な情報を得る手段として大きな可能性を秘めていますが、誤情報を拡散するツールとして悪用されるリスクもあります。そのため、企業は技術の進歩と共に、その使用を適切に管理し、誤情報の拡散を防ぐための規制やガイドラインの整備が求められています。
長期的には、これらの取り組みがAI技術の健全な発展を促し、選挙プロセスの透明性と信頼性を高めることに貢献することが期待されます。しかし、技術の進化に伴い、新たな課題が常に出現するため、企業、政府、市民社会が連携して、これらの課題に対応していく必要があります。
from How AI companies are reckoning with elections.
