from Images altered to trick machine vision can influence humans too.
Google DeepMindの研究によると、コンピュータの視覚システムを混乱させるために微妙に変更されたデジタル画像は、人間の知覚にも影響を与える可能性があることが示されました。敵対的画像とは、AIモデルが画像の内容を誤って分類するように意図的に変更された画像のことです。このような攻撃は、非常に微妙であり、画像の各ピクセルをわずかに変更するだけでも効果的です。実際の物体に対する敵対的攻撃も成功することがあり、例えば停止標識が速度制限標識と誤認されることがあります。
研究者たちは、人間が微妙な敵対的攻撃にどのように反応するかを調べるために、制御された行動実験を行いました。参加者には、敵対的に変更された画像のペアを見せ、特定の質問をしました。例えば、「どちらの画像がより猫のようですか？」という質問です。結果として、参加者は平均して50％以上の確率で、AIモデルが「猫」と誤分類した画像を選びました。これは、人間の知覚が微妙な敵対的攻撃に影響を受けることを示しています。
この発見は、人間と機械の視覚の類似性を浮き彫りにすると同時に、敵対的画像が人間とAIシステムに与える影響を理解するためのさらなる研究の必要性を示しています。AIの安全性とセキュリティに関する研究の重要性が強調され、人間の視覚表現とより一致するようにコンピュータビジョンモデルの堅牢性を向上させるための将来の研究に役立つ情報を提供しています。また、技術が人間に与える広範な影響を理解するための研究も必要であり、これはAIシステムをより安全でセキュリティの高いものにするための取り組みの重要性を示しています。詳細はNature Communicationsの論文で読むことができます。
