【ダイジェスト】
Mozillaの研究によると、AIコンパニオンアプリの多くがプライバシーチェックを通過できず、チャットボットがユーザーに求めることを守ることがしばしばできていないことが明らかになりました。この調査では、Talkie Soulful Character AI、Chai、iGirl: AI Girlfriend、Romantic AI、Genesia – AI Friend & Partner、Anima: My Virtual AI Boyfriend、Replika、Anima: AI Friend、Mimico – Your AI Friends、EVA AI Chat Bot & Soulmate、CrushOn.AIなど11のチャットボットがプライバシーとセキュリティのリスクである可能性が指摘されています。これらのアプリは、AIのトレーニング背景、データの出所、情報保護方法、データ侵害時の責任について意図的に曖昧であることが多いとされています。GenesiaのみがMozillaの最低基準を満たしています。
これらのAIコンパニオンアプリは、Androidデバイスで1億回以上ダウンロードされているとWiredは報じています。しかし、これらのアプリは、ユーザーからできるだけ多くのデータを引き出しながら、依存、孤独、有害性を提供することに特化していると指摘されています。例えば、CrushOn.AIアプリはプライバシーポリシーで、性的健康情報、処方薬、性別確認ケアのデータを収集する可能性があると述べています。
一部のアプリは、メンタルヘルスの利点にも言及しています。Romantic AIは「あなたのメンタルヘルスを維持するためにここにいる」と述べていますが、その利用規約では「Romantic AIは、サービスが治療的、医療的、またはその他の専門的な助けを提供するという主張、表現、保証、または保証を一切行いません」と記載されています。
ReplikaはAIの仲間を超えて、AIガイドを備えたウェルネスおよびトークセラピーのアプリであるTomoを作成しました。これはユーザーを仮想の禅の島に連れて行きます。しかし、イタリアは昨年、同社を禁止し、発達段階にある個人や感情的な脆弱性を持つ個人に対するリスクが増加する可能性があるとして、同国での個人データの使用を禁じました。
Mozillaは、AIモデルによって動かされている相手であっても、人々が接続と親密さを求め続けていると述べていますが、ボットに他の人に知られたくないことを共有しないよう警告しています。
【ニュース解説】
Mozillaの最新の研究によると、AIコンパニオンアプリの多くがプライバシー保護の基準を満たしていないことが明らかになりました。この調査では、Talkie Soulful Character AI、Chai、iGirl: AI Girlfriend、Romantic AI、Genesia – AI Friend & Partner、Anima: My Virtual AI Boyfriend、Replika、Anima: AI Friend、Mimico – Your AI Friends、EVA AI Chat Bot & Soulmate、CrushOn.AIなど11のアプリがプライバシーとセキュリティのリスクである可能性が指摘されています。これらのアプリは、AIのトレーニング背景やデータの出所、情報保護方法、データ侵害時の責任について不透明な点が多いとされ、GenesiaのみがMozillaの設定した最低基準を満たしています。
これらのアプリは、ユーザーから多くのデータを収集し、依存感、孤独、有害性を促進することに特化していると批判されています。特に、性的健康情報や処方薬、性別確認ケアに関するデータの収集が可能であるという点は、ユーザーのプライバシーに対する深刻な懸念を引き起こしています。
また、一部のアプリはメンタルヘルスのサポートを謳っているものの、実際には専門的な助けを提供することを保証していないことが明らかにされています。このような状況は、ユーザーが誤解を受ける可能性があり、実際に必要なサポートを得られないリスクを高めています。
さらに、Replikaが提供するウェルネスおよびトークセラピーのアプリ「Tomo」の例では、プライバシーポリシーにおいてユーザー情報の第三者への非共有を明言しているものの、イタリアではこのアプリが発達段階にある個人や感情的な脆弱性を持つ個人に対するリスクを高める可能性があるとして禁止されています。
この研究結果は、AIコンパニオンアプリの利用に際して、ユーザーが自身のプライバシーを守るために慎重である必要があることを示しています。また、アプリ開発者に対しては、透明性の高いプライバシーポリシーの策定と、ユーザーのデータ保護に対する責任を果たすことが求められます。このような問題は、将来のAI技術の発展と普及において、倫理的および法的な規制の重要性を浮き彫りにしています。AIコンパニオンアプリの市場が拡大する中で、ユーザーのプライバシー保護とセキュリティ対策の強化が、今後の大きな課題となるでしょう。
from Don’t date robots — their privacy policies are terrible.
