ジョージア州では、政治キャンペーンにおけるAIによるディープフェイクの使用を禁止する法案が州議会を通過しようとしています。この法案は、AI技術を使った政治的コミュニケーションにおけるディープフェイクの使用を違法とするものです。共和党のトッド・ジョーンズ州代表が提案し、ジョージア州議会の技術およびインフラ革新委員会で議論されました。
ジョーンズ氏は、AIによるディープフェイクの危険性を示すために、AIを使用して作成されたビデオを委員会に提示しました。このビデオでは、コルトン・ムーア州議員とマロリー・ステープルズ（元共和党の連邦議会候補者で現在は極右活動家団体を運営）の声と画像を模倣していますが、彼らが実際には支持していない法案の支持を偽って表明しています。
法案は委員会を8対1の票で通過しましたが、ムーア氏とステープルズ氏はこの法案に反対しています。ムーア氏は、この法案が政治的議論における「ミーム」への攻撃であり、風刺は言論の自由によって保護されるべきだと主張しています。
この法案、通称「ハウスビル986」は、選挙に関する欺瞞的な干渉やそのような干渉を求める行為を犯罪とし、2年から5年の懲役および最大50,000ドルの罰金を科すことを提案しています。選挙の90日以内に、実際には起こらなかった個人の発言や行動を描写し、合理的な人が本物と認識する可能性があるメディアを公開、放送、ストリーミング、またはアップロードする行為は、そのメディアが候補者や住民投票の勝利の可能性に大きな影響を与えるか、選挙の管理を混乱させる場合、重罪となります。
法律の施行は困難が予想されますが、ジョージア州の法案提案者は、州司法長官事務所とジョージア捜査局が選挙問題を調査することを可能にすることで、誰が違法行為を行ったかを特定する可能性が最も高いと考えています。
【ニュース解説】
ジョージア州では、政治キャンペーンにおける人工知能（AI）によるディープフェイクの使用を禁止する法案が進行中です。この法案は、政治的コミュニケーションにおいて、AI技術を用いて作成された偽のビデオやオーディオを使用することを違法とするものです。この動きは、選挙の公正性を守り、有権者を誤解させる可能性のあるディープフェイク技術の悪用を防ぐことを目的としています。
ディープフェイク技術は、AIを活用して、実在する人物が言ったことがない言葉を話しているかのように見せたり、行動しているように見せるビデオやオーディオを作成することができます。この技術の進化により、非常にリアルな偽のメディアコンテンツを作成することが可能になり、これが政治的な文脈で悪用されることが懸念されています。
この法案の提案者は、AIによるディープフェイクの危険性を示すために、実際には存在しないビデオを作成し、それを委員会に提示しました。このビデオは、特定の法案を支持しているかのように見せかけていますが、実際にはその人物は反対しています。このような偽のメディアが選挙に与える影響は大きく、有権者を混乱させ、選挙結果に影響を与える可能性があります。
法案は、選挙に関連する欺瞞的な干渉を犯罪とし、重罪に問うことを提案しています。これには、選挙の90日以内に、実際には起こらなかったことを描写し、合理的な人が本物と認識する可能性があるメディアを公開する行為が含まれます。この法案は、選挙の公正性を守るための重要な一歩となる可能性がありますが、施行には課題が伴います。
ディープフェイク技術の進化は、法律や規制の枠組みを超えて進んでおり、この技術による悪用を防ぐためには、法律だけでなく、技術的な対策や社会的な意識の向上も必要です。また、言論の自由とのバランスをどのように取るかも、重要な課題となります。この法案は、ディープフェイク技術による悪用を防ぐための一歩ですが、技術の進化に対応するためには、今後も継続的な努力が求められます。
from ‘Fraud is fraud’: Georgia aims to ban AI deepfakes in political campaigns.
