【ダイジェスト】
労働党は、AI技術がNHS（国民保健サービス）の危機を救う可能性があると期待しています。政府イベントで、労働党の健康影の大臣であるカリン・スミスは、技術企業に対して扉を開く姿勢を示しました。しかし、技術企業が提案するAIによる楽観的なビジョンは、医師や患者との関係、さらにはNHSの基本原則を根本的に変える可能性があり、無料ではありません。AIの役割には、医療記録や診断の分析、例えば眼のスキャンからパーキンソン病を早期に検出することなどが含まれます。これは、メンタルヘルスアプリのチャットボットから、待機リストの優先順位付けアルゴリズム、新薬の発見を支援するまで、医療システム全体の変革を意味します。
しかし、AIは魔法の解決策ではありません。技術楽観主義はAIの暗い側面を考慮していません。NHSとAIの専門家であるジェス・モーリー博士は、NHSがアルゴリズムに適したが社会的に望ましくない、または受け入れられない医療システムになる状況を避けるために、潜在的な意図しない結果を管理する必要があると警告しています。
AIに対する過度の期待は、技術の採用とそれを支える患者データの使用に必要な公衆の信頼を損ないます。私の組織であるConnected by DataがキャンペーングループJust Treatmentと共に行った研究は、NHSのデジタル変革の個人的および倫理的な意味合いについて患者が深い懸念を抱いていることを明らかにしました。NHSにおけるAIの役割に関する異なる政治的対話とビジョンが必要です。
例えば、私たちはトニー・ブレア研究所が提唱する「個人の一生を通じて多様なデータを収集し追跡し、それを用いてテーラーメイドの治療とライフスタイルのアドバイスを行う」個人化されたAIドクターを望んでいるのでしょうか？これは、私たちが実際に感じていることを割り引いてしまい、不必要に健康を心配するようになるかもしれません。
AIのリスクはここで終わりではありません。AIがデジタルに取り残された人々を置き去りにし、既に恵まれている人々に主に利益をもたらすことに満足しているでしょうか？健康データと医療研究のカバレッジと品質には既知のバイアスがあり、性別、人種、コミュニティ間でこの技術にアクセスするのがどれだけ簡単かに違いがあります。より多くのAIは、より多くの健康格差を意味するかもしれません。
これらのAIの潜在的なデメリットは、私たちの医療システムの基盤、すなわち私たちの自律性、医師と患者との関係、普遍的なアクセスを脅かします。しかし、これらは避けられないわけではありません。リスクに注意を払い、その基本原則を守るNHSは、これらを避けることができます。
労働党は、現在の政府が強力な挑戦から避け、政府が既に持っている計画に対する公衆の賛同を得ることを目的としたエンゲージメント演習を実施するのとは異なり、公衆、専門家、市民社会が技術を含むNHSの未来を共同で設計する真の機会を提供することで、自身を差別化する機会があります。
労働党はまた、AIシステムの開発と提供における民間部門の役割を区別するリーダーシップを示す必要があります。トニー・ブレア研究所は、公共の資金と公共のデータを使用して商業バイオテクノロジー部門を成長させることを提唱しています。しかし、薬品と同様に、民間部門は患者の健康よりも利益を優先することに躊躇いがありません。
代わりに、労働党は医療部門の調達プロセスを全面的に見直すことを約束するべきです。NHSがAIについてコストパフォーマンスの良い交渉をするだけでなく、民主的な根幹を新たにするために必要な装備をする必要があります。NHSは、コミュニティ所有およびオープンソースの健康技術に戦略的に投資し、大規模な技術調達のための独立した倫理的レビューと公衆の監視を設置することで、公衆の信頼を再構築するべきです。
AIは約束がありますが、無料ではありません。労働党は、失敗している医療サービスだけでなく、リスキーな技術取引と懐疑的な公衆を引き継ぐことになります。NHSを改革する際、労働党はAI企業の自己奉仕的な約束に魅了されることなく、公衆、医療専門家、市民社会に私たちの未来のNHSを形作るための強力な役割を与える必要があります。
【ニュース解説】
労働党は、AI技術を活用して国民保健サービス（NHS）の危機を救う可能性があると期待しています。技術企業から提案されるAIによる楽観的なビジョンは、医療記録や診断の分析、メンタルヘルスアプリのチャットボット、待機リストの優先順位付けアルゴリズム、新薬の発見支援など、医療システム全体の変革を意味します。しかし、この技術楽観主義は、AIの暗い側面や、医師や患者との関係、NHSの基本原則を根本的に変える可能性を考慮していません。
AIの過度の期待は公衆の信頼を損ない、患者データの使用に必要な信頼を失う可能性があります。また、AIがデジタルに取り残された人々を置き去りにし、既に恵まれている人々に主に利益をもたらすこと、健康データと医療研究のバイアス、性別、人種、コミュニティ間でのアクセスの違いなど、より多くの健康格差を生む可能性があります。
労働党は、現在の政府が強力な挑戦から避け、政府が既に持っている計画に対する公衆の賛同を得ることを目的としたエンゲージメント演習を実施するのとは異なり、公衆、専門家、市民社会が技術を含むNHSの未来を共同で設計する真の機会を提供することで、自身を差別化する機会があります。また、AIシステムの開発と提供における民間部門の役割を区別するリーダーシップを示す必要があります。
労働党は、民間部門が患者の健康よりも利益を優先することに躊躇いがないことを考慮し、医療部門の調達プロセスを全面的に見直すことを約束するべきです。NHSは、コミュニティ所有およびオープンソースの健康技術に戦略的に投資し、大規模な技術調達のための独立した倫理的レビューと公衆の監視を設置することで、公衆の信頼を再構築するべきです。
AIは約束がありますが、無料ではありません。労働党は、失敗している医療サービスだけでなく、リスキーな技術取引と懐疑的な公衆を引き継ぐことになります。NHSを改革する際、労働党はAI企業の自己奉仕的な約束に魅了されることなく、公衆、医療専門家、市民社会に私たちの未来のNHSを形作るための強力な役割を与える必要があります。
from AI doctors and chatbot nurses? Labour must show the future of the NHS isn’t so dystopian | Jeni Tennison.
