労働党はAIによるディープフェイク技術、特に非合意に基づくポルノコンテンツを生成するいわゆる「ヌーディフィケーション」ツールの禁止を検討しています。また、選挙における誤情報を許容しないという超党派の誓約に署名することも提案されています。この政策提案は、中道左派のシンクタンク「Labour Together」によって作成されました。提案には、実在の人物の画像をアップロードして露骨なコンテンツを生成する専用のヌーディフィケーションツールを法的に禁止すること、また、一般的なAIツールやウェブホスティング会社に対して、そのような画像や他の有害なディープフェイクの製造に関与しないように合理的な措置を講じる義務を課すことが含まれています。
この政策提案は、Twitter（現在はXとして知られている）が昨年10月、労働党のキア・スターマー党首を非難するディープフェイク音声を削除しなかった事例を受けて提案されました。AIが生成したこのクリップは他のソーシャルネットワークから迅速に削除されましたが、Twitterはメディアが改変または捏造されたかを確実に判断できない場合、行動を取らないとする一項目を引用して対応を拒否しました。
労働党の科学、イノベーション、技術担当影の大臣、ピーター・カイルは、この提案を検討していると述べています。「ディープフェイクが個人に害を及ぼし、選挙を損ない、詐欺を増加させる能力は、以前から明らかでした。ヌーディフィケーションツールの急増は深刻な懸念事項です。」
さらに、この政策提案は、すべての主要政党がディープフェイク技術を使用したり、選挙キャンペーンの目的で誤情報を広めたりしないことに自発的に同意すること、そして選挙の投票日にメディアの報道を禁じる現行の禁止に例外を設け、投票に向かう人々が目にする可能性のある詐欺的な誤情報に対して主流メディアが反論できるようにすることを緊急に呼びかけています。
【ニュース解説】
労働党がAIによるディープフェイク技術、特に非合意に基づくポルノコンテンツ生成ツール、いわゆる「ヌーディフィケーション」の禁止を検討しているというニュースがあります。これに加えて、選挙における誤情報を許容しないという超党派の誓約に署名することも提案されています。この提案は、中道左派のシンクタンク「Labour Together」によって作成されたもので、実在の人物の画像をアップロードして露骨なコンテンツを生成する専用ツールの法的禁止、および一般的なAIツールやウェブホスティング会社に対して、そのような画像や他の有害なディープフェイクの製造に関与しないように合理的な措置を講じる義務を課すことが含まれています。
この政策提案の背景には、Twitter（現在はXとして知られている）が労働党のキア・スターマー党首を非難するディープフェイク音声を削除しなかった事例があります。このような事例は、ディープフェイク技術が個人に害を及ぼし、選挙を損ない、詐欺を増加させる能力を持つことを示しています。
ディープフェイク技術は、人工知能を利用して実在する人物の顔や声を別の映像や音声に合成する技術です。この技術の進化により、本物と見分けがつかないほどのリアルな映像や音声を生成することが可能になりました。しかし、この技術が悪用されることで、個人のプライバシー侵害、名誉毀損、詐欺などの問題が発生しています。
労働党の提案は、ディープフェイク技術の悪用に対する法的な対策を講じることで、これらの問題に対処しようとしています。特に、非合意に基づくポルノコンテンツの生成を禁止することで、個人の尊厳とプライバシーを守ることを目指しています。また、選挙における誤情報を許容しないという超党派の誓約に署名することで、ディープフェイク技術が選挙の公正性を損なうことを防ぐことも提案されています。
このような規制が実施されれば、ディープフェイク技術の発展と利用に対する社会的な認識が高まり、技術の責任ある使用を促進することが期待されます。しかし、表現の自由とのバランスをどのように取るか、技術の進化に法律が追いつけるかなど、実施にあたっては様々な課題があります。この提案がどのように進展し、ディープフェイク技術と社会との関係をどのように形成していくのか、今後の動向が注目されます。
from Labour considers ‘nudification’ ban and cross-party pledge on AI deepfakes.
