【ダイジェスト】
人工知能（AI）が医療分野で大きな可能性を示している一方で、世界中の規制当局には行動を起こす圧力が高まっています。AIツールが潜在的に有害な結果を示す可能性があるためです。この問題は、マサチューセッツ工科大学（MIT）のアブドゥル・ラティフ・ジャミール健康マシンラーニングクリニック（ジャミールクリニック）が開催したAIと健康規制ポリシーカンファレンスで議論されました。
米国食品医薬品局（FDA）が薬を承認する前には、安全性と有効性の両方を示す必要がありますが、薬の作用機序を理解することは承認要件には含まれていません。これは、安全かつ効果的なAIモデルの「ブラックボックス」的な意思決定プロセスを完全に説明する必要があるかどうかという疑問を提起します。このテーマは、教員、米国・EU・ナイジェリアの規制当局者、業界の専門家が健康分野のAI規制について議論した会議で取り上げられました。
機械学習が急速に進化する中、規制当局が追いつき、有害な影響の可能性を減らしつつ、それぞれの国がイノベーションで競争力を保つことができるかどうかは不確実です。ジャミールクリニックのイベントでは、議論を促進するために、出席者を厳選し、チャタムハウスルールを適用して、講演者が匿名で物議を醸す意見や議論を自由に行えるようにしました。
このイベントの目的は、AIの話題を盛り上げることではなく、規制当局に最先端のAIの進展を伝え、教員や業界の専門家が健康分野のAI、特に臨床現場や薬剤開発でのAI使用に関する規制枠組みに新しいアプローチを提案する場を提供することでした。
医療分野でのAIの役割は、パンデミック後の労働力不足、コスト増加（「給与の問題ではない」と一部の講演者は指摘）、医療従事者の燃え尽き症候群や辞職が増加する中、これまで以上に重要になっています。ある講演者は、臨床AIの展開の優先事項は、患者の診断や治療よりも運用ツールに焦点を当てるべきだと提案しました。
出席者の中には、「開発者コミュニティや医療システムだけでなく、患者や規制当局を含むすべての関係者の間に明らかな教育不足がある」と指摘する人もいました。臨床AIツールの主要なユーザーである医師たちは、規制当局に行動を起こす前に彼らに相談するよう訴えました。
データの可用性は出席したAI研究者の多くにとって重要な問題でした。彼らは、知的財産によるアクセスの障壁や、大規模で高品質なデータセットの不足により、効果的なAIツールを作るためのデータが不足していると嘆きました。「開発者はデータ作成に数十億を費やすことはできないが、FDAはできる」とイベント中に一人の講演者が指摘しました。また、EUの講演者は、政府にAI研究者のための健康データを利用可能にするシステムの開発を進めていることを強調しました。
一日のイベントの終わりには、多くの出席者が議論を続けることを提案し、選抜された出席者と閉鎖的な環境が、健康分野のAI規制に関する開かれた生産的な議論を促進する独特の空間を作り出したと評価しました。将来のフォローアップイベントが確定次第、ジャミールクリニックは同様のワークショップを追加開催し、規制当局が最新の進展を把握し続けられるようにする計画です。
「あらゆる規制システムの北極星は安全性である」と一人の出席者は認め、「そこから発想が生まれ、下流で作業が行われる」と述べました。
【ニュース解説】
人工知能（AI）が医療分野で注目されていますが、その進歩に伴い、世界中の規制当局にはAIツールの潜在的なリスクに対処するための行動が求められています。この問題は、マサチューセッツ工科大学（MIT）のアブドゥル・ラティフ・ジャミール健康マシンラーニングクリニックが開催したカンファレンスで議論されました。
米国食品医薬品局（FDA）は、薬が市場に出る前に安全性と有効性を確認しますが、その作用機序を完全に理解することは必須ではありません。AIモデルも同様に、その意思決定プロセスが「ブラックボックス」である場合、FDAの承認を得るためにそのプロセスを完全に説明する必要があるかどうかが議論されています。
AIの急速な進化により、規制当局が追いつくことができるか、また、イノベーションの競争力を維持しながら有害な影響を減らすことができるかが不確かです。カンファレンスでは、出席者が自由に意見を交換できるように、匿名で議論が行われました。
このイベントは、AIに関する話題を盛り上げることではなく、規制当局に最新のAI技術を伝え、臨床現場や薬剤開発でのAIの使用に関する新しい規制枠組みを提案する場として設けられました。
医療分野では、労働力不足やコスト増加、医療従事者の燃え尽き症候群や辞職が増加する中で、AIの役割が重要になっています。臨床AIの展開においては、患者の診断や治療よりも運用ツールに焦点を当てるべきだという意見が出されました。
また、AIツールの開発には大量のデータが必要ですが、データへのアクセスが知的財産権によって制限されたり、十分な量や質のデータが不足しているという問題が指摘されました。EUからの講演者は、政府がAI研究者に健康データを提供するシステムを開発していることを紹介しました。
イベントの最後には、参加者から議論を続けるためのフォローアップイベントの開催が提案され、選抜された出席者と閉鎖的な環境が有意義な議論を促進したと評価されました。今後のイベントが計画されており、規制当局が最新のAI技術について知識を深める機会が提供される予定です。
安全性は規制システムの最優先事項であり、それを基にしてさらなる方針が検討されるべきだという意見が出されました。
from What to do about AI in health?.
