Robert F. Kennedy Jr.の大統領選挙キャンペーンが使用していたAIチャットボットが、WIREDの問い合わせを受けて消えたことが明らかになりました。このチャットボットは、MicrosoftのAzure OpenAI Serviceを利用してOpenAIの制限を回避していたとされています。Microsoftは自社のルールに違反していないと述べ、OpenAIはコメントを控えました。
このチャットボットは、Kennedyが陰謀論を広めているとする情報を提供していました。具体的には、CIAがジョン・F・ケネディの暗殺に関与しているという陰謀論や、ワクチンと自閉症の関連についてKennedyが信じているという内容を回答していたとされます。
OpenAIは、政治候補者を模倣するチャットボットの作成や投票に関連する誤情報の提供を禁止していますが、KennedyキャンペーンのチャットボットがOpenAIのモデルを使用していた可能性があります。ただし、MicrosoftはOpenAIのルールには拘束されていないと述べています。
AIチャットボットの使用には、デマや計算されたプロパガンダの拡散のリスクがあると指摘されています。OpenAIは選挙活動やロビー活動のためのアプリケーション作成を許可していないものの、他の企業が提供するAIモデルの使用については制限がないため、OpenAIのポリシーの実施方法に疑問が残ります。
ニュース解説
ロバート・F・ケネディ・ジュニアの大統領選挙キャンペーンが使用していたAIチャットボットが、メディアの問い合わせを受けた後に突然利用できなくなったことが報じられました。このチャットボットは、MicrosoftのAzure OpenAI Serviceを介してOpenAIの制限を回避する形で運用されていました。Microsoftはこのチャットボットが自社のルールに違反していないと述べ、OpenAIからは具体的なコメントはありませんでした。
このチャットボットは、ケネディが信じる陰謀論やワクチンと自閉症の関連についての情報を提供していたとされ、政治的な内容を含むAIの使用に関する議論を呼び起こしました。OpenAIは以前から、政治候補者を模倣するチャットボットの作成や投票に関連する誤情報の提供を禁止していますが、Microsoftを通じた間接的な利用により、この制限を回避することが可能であったことが明らかになりました。
AIチャットボットの政治的利用には、デマや計算されたプロパガンダの拡散といったリスクが伴います。特に選挙活動においては、有権者に誤った情報を提供することで投票行動に影響を与える可能性があります。OpenAIは選挙活動やロビー活動のためのアプリケーション作成を禁止しているものの、Microsoftや他の企業が提供するサービスを通じてAIモデルが利用される場合、OpenAIのポリシーを実施することが困難であることが示されました。
この事例は、AI技術の進展と普及に伴い、その利用に関する倫理的、法的な枠組みの重要性を浮き彫りにしています。AIの政治的利用に関する明確なガイドラインと規制が必要であり、技術企業、政策立案者、そして社会全体が協力して、情報の正確性を保ち、民主的なプロセスを守るための取り組みが求められています。AI技術のポテンシャルは計り知れないものがありますが、その利用には責任が伴うことを忘れてはなりません。
from Robert F. Kennedy Jr.’s Microsoft-Powered Chatbot Just Disappeared.
