イギリスでの未規制AIチャットボットを使用して社会福祉計画を作成することに関する警告が発せられました。オックスフォード大学の研究者によるパイロット研究では、一部のケアプロバイダーがChatGPTやBardのような生成AIチャットボットを使用して、ケアを受ける人々のためのケアプランを作成していることが明らかになりました。これにより、患者の機密性が危険にさらされる可能性があると指摘されています。
オックスフォード大学のAI倫理研究所の初期キャリア研究フェローであるキャロライン・グリーン博士は、ケア組織を調査した結果、個人データを生成AIチャットボットに入力すると、そのデータが言語モデルの訓練に使用され、個人データが他者に明らかにされる可能性があると述べています。また、ケアプランが不十分である可能性や、誤った情報に基づいてケアが行われることで、患者に不意の害を与える可能性があると警告しています。
しかし、AIには潜在的な利点もあるとグリーン博士は付け加えています。AIは、管理作業の負担を軽減し、ケアプランの見直しをより頻繁に行うことを可能にするかもしれません。現在のところ、AIの使用を推奨する状況ではありませんが、この目的のためにアプリやウェブサイトを開発している組織も存在します。
健康とケアの分野では、大規模言語モデルに基づく技術が既に使用されています。例えば、PainChekは、話すことができない人が痛みを感じているかどうかをAI訓練された顔認識で特定するスマートフォンアプリです。また、Oxevisionは、NHSの精神保健信託の半数が使用しているシステムで、重度の認知症や急性精神医学的ニーズを持つ潜在的に暴力的な患者を隔離する部屋に設置された赤外線カメラを使用して、転倒のリスクや睡眠量などを監視します。
これらの技術は、社会福祉分野でのAIの使用に関する倫理的な問題を提起していますが、同時に、ケアの質を向上させ、ケアプロバイダーの作業負担を軽減する潜在的な利点も提供しています。
【ニュース解説】
イギリスでの社会福祉計画の作成において、未規制のAIチャットボットの使用に関する警告が発せられました。オックスフォード大学の研究者たちによるパイロット研究で、ChatGPTやBardのような生成AIチャットボットが一部のケアプロバイダーによって使用されていることが明らかになり、患者の機密性が危険にさらされる可能性があると指摘されています。
この問題の根本には、個人データをAIチャットボットに入力すると、そのデータがAIの学習材料として使用され、結果として個人情報が第三者に漏れる可能性があるという事実があります。さらに、AIによって生成されたケアプランが不十分である可能性や、誤った情報に基づいてケアが行われることで、患者に害を与えるリスクも指摘されています。
しかし、AI技術が社会福祉分野で提供できる潜在的な利点もあります。例えば、管理作業の負担を軽減し、ケアプランの見直しをより頻繁に行うことが可能になることです。このような利点を活かすためには、AIの使用に関する倫理的なガイドラインや規制の整備が必要です。
既に健康とケアの分野では、大規模言語モデルに基づく技術が使用されています。PainChekやOxevisionのようなシステムは、特定のニーズに応じた監視やケアを提供することで、ケアの質を向上させる可能性を示しています。
このニュースは、AI技術の社会福祉分野への導入が進む中で、倫理的な問題や患者の機密性の保護、そして技術の適切な使用方法に関する議論を促します。AIの利点を最大限に活かしつつ、リスクを最小限に抑えるためには、関連する規制やガイドラインの整備が急務であることを示しています。また、将来的には、AI技術がケアの質を向上させ、ケアプロバイダーの負担を軽減することにより、社会福祉サービスの提供方法に革命をもたらす可能性があります。しかし、そのためには、技術の倫理的な使用を確保するための明確な枠組みの構築が不可欠です。
from Warning over use in UK of unregulated AI chatbots to create social care plans.
