カリフォルニア州のプライバシー保護機関であるCalifornia Privacy Protection Agency（CPPA）は、自動意思決定技術（ADMT）および人工知能（AI）に関する新たなルールを提案しました。これらのルールは、消費者、従業員、学生、応募者などを保護対象とし、重要な意思決定や広範なプロファイリング、ADMTのトレーニングに適用されます。ただし、スパムフィルター、スプレッドシート、ファイアウォールなどは適用範囲外です。
ルールの主な要件には、事前通知、オプトアウト権利、情報へのアクセス権利が含まれます。事前通知は、消費者がADMTによる処理が行われる前に知らされるべき内容と方法を定め、オプトアウト権利は消費者がADMTによるデータ処理から自らを除外する方法を提供します。また、情報へのアクセス権利は、消費者が自分のデータがどのように使用されているかを知る権利を保障します。
これらのルールは、就職、教育、医療、ローンなどの分野でのADMTの使用に関する具体的な例を含め、広範囲にわたります。また、AIおよびADMTのリスク評価に関する要件も設けられています。
カリフォルニアのルールは、欧州連合のAI法やアメリカの他の州のデータプライバシー法と比較され、その国際的な影響と重要性が注目されています。ルールの最終的な採択予定日と執行予定日はまだ明らかにされておらず、現状と将来の見通しについては変更の可能性があります。AIおよび自動化の規制と消費者保護の重要性が強調されています。
【関連記事】
AI関連のプライバシーに言及した記事をinnovaTopiaでもっと読む
【参考リンク】
California Privacy Protection Agency (CPPA):カリフォルニア州のプライバシー保護機関の公式サイト（外部）
【編集者追記】用語解説
- CPPA(California Privacy Protection Agency)
カリフォルニア州のプライバシー保護機関。2020年の投票で制定されたCPRA(California Privacy Rights Act)により設立され、消費者プライバシー法の施行と執行を担当します。
- ADMT(Automated Decision-Making Technology)
人工知能(AI)などを用いた自動意思決定技術のこと。この規制案ではADMTの利用についても規制の対象となります。
- リスク評価(Risk Assessment)
企業がAI/ADMTを導入する前に、プライバシーやバイアスなどのリスクを評価することが義務付けられる可能性があります。
ニュース解説
カリフォルニア州のプライバシー保護機関であるCalifornia Privacy Protection Agency（CPPA）が提案している新しい規制は、人工知能（AI）と自動意思決定技術（ADMT）の使用に関するものです。これらの規制は、消費者のデータプライバシーを保護し、AIやADMTによる意思決定プロセスに透明性とコントロールをもたらすことを目的としています。
これらの規制は、カリフォルニア州で事業を行う、年間収益が2500万ドル以上の企業や、10万人以上のカリフォルニア州民の個人データを取引する企業、またはカリフォルニア州民のデータの販売から年間収益の半分以上を得ている企業に適用されます。規制の対象となるのは、消費者に重大な影響を与える意思決定、消費者の広範なプロファイリング、およびADMTツールのトレーニングなどの特定の使用です。
提案されている規制には、事前通知の発行、ADMTからのオプトアウトの提供、および消費者に対するADMTの使用方法の説明が含まれています。事前通知では、企業はADMTを使用する前に、その使用方法と消費者の権利について明確に通知する必要があります。オプトアウト権利により、消費者はADMTによるデータ処理から自らを除外することができます。また、情報へのアクセス権利により、消費者は企業が自分のデータをどのように使用しているかについての情報を得ることができます。
これらの規制は、AIとADMTのリスク評価を行うことも要求しており、企業は重要な意思決定や広範なプロファイリングを行う前、または特定のADMTやAIモデルをトレーニングする前にリスク評価を実施する必要があります。リスク評価では、ADMTが消費者にもたらすリスク、組織や他の利害関係者にもたらす潜在的な利益、およびリスクを軽減または排除するためのセーフガードを特定する必要があります。
これらの規制は、カリフォルニア州の法律であるため、カリフォルニア州に居住する消費者にのみ保護が及びますが、企業は簡素化のためにカリフォルニア州外の消費者にも同様のオプションを提供する可能性があります。また、これらの規制は、カリフォルニア州が世界の主要な技術企業の本拠地であるため、州境を越えて企業の行動に影響を与える可能性があります。
規制の最終的な施行時期はまだ確定していませんが、2025年中頃以降になると予想されています。CPPAは引き続き公開コメントを募集し、規制の見直しを行っており、正式な採択前にさらなる変更がある可能性があります。規制が施行されれば、CPPAは違反を調査し、罰金を科す権限を持ちます。また、カリフォルニア州の司法長官も非遵守に対して民事罰を科すことができます。
これらの規制は、AIと自動化が急速に進展する中で、消費者保護をどのように強化し、企業がどのように規制に適応していくかに重要な意味を持ちます。また、企業はこれらの規制に準拠するために、データプライバシーとセキュリティの実践を強化し、AIとADMTの使用における透明性を高める必要があります。
from What you need to know about the CCPA rules on AI and automated decision-making technology.
