アメリカ合衆国のジョセフ・R・バイデン大統領は、2024年3月7日に行われた一般教書演説で、人工知能（AI）に関する重要な言及を行った。バイデン大統領は、子供たちのオンラインプライバシーを守るための超党派のプライバシー法案の成立を求めるとともに、AIの可能性を活用し、その危険から我々を守ることを議会に呼びかけた。特に、AIによる声の模倣を禁止することに焦点を当て、この技術が現在、声のクローニングとして利用されていることに触れた。市場には、ElevenLabsやmyShellなどの企業が提供する独自のソリューションやオープンソースのソリューションが存在する。
バイデン大統領自身が、2024年1月23日のニューハンプシャー州予備選挙に先立ち、投票をしないよう呼びかけるロボコールの一環として、自身の声が模倣されたことから、この技術に直接的な関心を持っている。ニューハンプシャー州の司法長官は、この電話をテキサス州に拠点を置くLife CorporationおよびそのオーナーのWalter Monk、さらにはLingo Telecomという別の会社に遡るためにIndustry Traceback Groupを雇用した。2024年2月初旬、アメリカ連邦通信委員会（FCC）は、Lingoに対して停止命令の手紙を発行した。
バイデン大統領の発言を受けて、ElevenLabs、myShell、および類似のソリューションを提供する他の企業の今後、また議会がこの技術を禁止する法案を成立させるかどうかが注目される。
【ニュース解説】
2024年3月7日に行われた一般教書演説で、アメリカ合衆国のジョセフ・R・バイデン大統領は、人工知能（AI）技術、特にAIによる声の模倣技術に関する重要な言及を行いました。この技術は、現在、声のクローニングとして利用されており、ElevenLabsやmyShellなどの企業が独自のソリューションを市場に提供しています。バイデン大統領は、この技術の禁止を議会に呼びかけ、子供たちのオンラインプライバシーを守るための超党派のプライバシー法案の成立も求めました。
AIによる声の模倣技術は、人の声を精密にコピーし、その声を使用して音声メッセージを生成することができます。この技術は、エンターテインメント業界での利用や言語学習アプリケーション、アクセシビリティ向上のためのツールとしてのポジティブな側面を持っています。しかし、同時に、詐欺や偽情報の拡散、プライバシー侵害などの潜在的なリスクも伴います。バイデン大統領自身が、選挙に関連するロボコールで自身の声が無断で模倣された事例があることから、この技術の悪用に対する懸念が高まっています。
この技術の規制に関する議論は、AIの進化とその社会への影響をどのようにバランス良く管理するかという、より広範な問題を提起しています。AIによる声の模倣を禁止する法案が成立した場合、技術の発展とイノベーションを促進しつつ、個人の権利と社会の安全を守るための規制の枠組みをどのように設計するかが重要な課題となります。
長期的には、AI技術の進化に伴い、より高度な模倣技術が登場する可能性があります。これにより、音声だけでなく、ビデオや画像におけるリアルタイムの模倣が可能になるかもしれません。そのため、技術の進歩に合わせて、法律や規制、倫理基準を進化させていく必要があります。AI技術のポジティブな側面を最大限に活用しつつ、潜在的なリスクから社会を守るためには、技術者、法律家、政策立案者、そして一般市民が協力して、適切なガイドラインと規制を策定し、実施していくことが求められます。
from Pres. Biden calls upon Congress to ban AI voice impersonation in State of the Union address.
