EUのAI法（AI Act）が可決され、今年の終わりまでに医療、教育、警察などの分野で高いリスクを伴うAI利用が禁止されることになった。また、「受け入れができないリスク」を持つAI利用も禁止されるが、法執行機関はテロや誘拐などの重大犯罪対策として、特定の条件下で生体情報や公共の場での顔認識ソフトウェアの使用が許可される。
テック企業は、ディープフェイクやAI生成コンテンツを明確にラベル付けし、人々がチャットボットや他のAIシステムと対話していることを通知する必要がある。AI Actは、AI生成メディアの開発において、検出が可能な方法で行うことを要求しているが、これらの要求は技術の進歩に追いついておらず、信頼性のある検出方法や業界標準の構築にはさらなる研究が必要とされている。
EUの市民は、AIシステムによって被害を受けたと疑う場合、苦情を提出することができる。市民はAIシステムがなぜそのような決定を下したのかについての説明を受けることもできるが、これには市民がAIに関する十分な知識を持ち、アルゴリズムの悪影響を理解している必要がある。
AI Actは、「高リスク」セクターで技術を開発するAI企業に新たな義務を課す。これには、データガバナンスの改善、人間の監視の確保、システムが人々の権利にどのように影響を与えるかの評価が含まれる。汎用AIモデルを開発する企業は、モデルの構築方法や著作権法の遵守方法、トレーニングデータの要約などを公開する必要がある。AI Actに違反した企業は巨額の罰金を科される可能性があり、製品がEUから禁止される可能性もあるが、オープンソースのAIモデルは多くの義務から免除される。
アフリカ連合は、AIの開発と規制に取り組んでおり、AIの採用がアフリカの経済に与える見込まれる利益は大きい。しかし、技術の誤用から市民を守るために独自の規制フレームワークを開発する必要がある。アフリカ諸国がAIの利益を活用できない場合、経済が取り残される可能性がある。
ニュース解説
EUでは、AI法（AI Act）が可決され、2024年の終わりまでに医療、教育、警察などの分野で人々の基本的人権に高いリスクをもたらすAIの使用が禁止されることになりました。この法律は、人々の政治的意見や性的指向などの敏感な特性を推測するシステムや、公共の場でのリアルタイム顔認識ソフトウェアの使用も禁止します。しかし、テロや誘拐などの重大犯罪に対抗するため、法執行機関は特定の条件下でこれらの技術を使用することが許可されています。
テック企業は、ディープフェイクやAI生成コンテンツにラベルを付け、人々がAIシステムと対話していることを通知する必要があります。しかし、AI生成メディアの検出可能な開発は技術的な挑戦を伴い、信頼性のある検出方法や業界標準の確立にはさらなる研究が必要です。
EUの市民は、AIシステムによって被害を受けたと疑う場合、苦情を提出できます。これは、AIの決定についての説明を受ける権利を含みますが、市民がAIに関する十分な知識を持ち、アルゴリズムの悪影響を理解している必要があります。
「高リスク」セクターで技術を開発するAI企業には新たな義務が課されます。これには、データガバナンスの改善、人間の監視の確保、システムが人々の権利にどのように影響を与えるかの評価が含まれます。AI Actに違反した企業は巨額の罰金を科される可能性がありますが、オープンソースのAIモデルは多くの義務から免除されます。
この法律の可決は、AIの使用に関する透明性と責任を高めることを目的としています。AI技術の進歩に伴い、その影響力とリスクも増大しています。AI Actは、AIが社会に与える影響を管理し、人々の権利を保護するための重要なステップです。しかし、この法律の実施には、技術的な課題、市民のAIリテラシーの向上、国際的な協力など、多くの課題が伴います。長期的には、この法律がAI技術の倫理的な使用を促進し、より公正で透明性のあるデジタル社会の構築に貢献することが期待されています。
from The AI Act is done. Here’s what will (and won’t) change.
