from Beware the ‘botshit’: why generative AI is such a real and imminent threat to the way we live | André Spicer.
ジェネレーティブAI（生成型人工知能）は、現実とは無関係なコンテンツを生み出し、市民や有権者に影響を与えるリアルで差し迫った脅威となっています。2023年には、ヒラリー・クリントンが共和党のロン・デサンティスを支持すると述べるビデオが登場しましたが、これはジェネレーティブAIを使用して作成されたものでした。このようなAI技術は、選挙において誤情報を広めたり、有権者を操作するための個別化された広告を生み出す可能性があります。2024年には世界中で多くの重要な選挙が予定されており、ジェネレーティブAIの影響を受けることが予想されます。
ジェネレーティブAIは、政治における「bullshit」（真実に関係なく説得を試みる発言）を「botshit」と呼ばれる新たな現象へと進化させるかもしれません。AIが生成する「幻覚」は、現実とは異なる情報を生み出し、重要ながら検証が困難な問題に対する答えとして使用されると、有権者が完全に幻想的な情報の宇宙に基づいて重要な投票決定を行う危険性があります。
しかし、AI技術の危険性を制限するための対策も可能です。技術企業はAI生成コンテンツを容易に識別できるようにウォーターマーキングを使用したり、AIを信頼できる情報源でトレーニングすることができます。ジャーナリストや政治家、有権者もそれぞれの立場で注意を払い、批判的な判断を行うことが重要です。
ジェネレーティブAIは多くの職業や産業に変革をもたらしており、政治もその変化の最前線にあります。ポジティブな使用法もありますが、現時点ではネガティブな使用法が目立ち、私たちに迫っています。ジェネレーティブAIが有益な目的で使用され、単なる「botshit」を生み出すことにならないように努力することが重要です。著者のアンドレ・スパイサーは、ロンドン市立大学ベイズ・ビジネス・スクールの組織行動学教授です。
