【ダイジェスト】
マイクロソフトは、北朝鮮とイランが攻撃的なサイバー作戦を組織するために生成型人工知能（AI）を使用し始めていると発表しました。この発表は、ビジネスパートナーであるOpenAIとの協力により、開発したAI技術を利用または悪用しようとする多くの脅威を検出し、中断したことに基づいています。
マイクロソフトによると、これらの技術は「初期段階」であり、「特に新奇性や独自性はない」とのことですが、大規模言語モデルを活用してネットワーク侵入能力を拡大し、影響力操作を行う米国のライバルを公に露呈することが重要です。
サイバーセキュリティ企業は長らく防御のために機械学習を使用してきましたが、犯罪者や攻撃的なハッカーもまたそれを使用しており、OpenAIのChatGPTによって導入された大規模言語モデルは、この攻防を一層進化させました。
マイクロソフトはOpenAIに数十億ドルを投資しており、生成型AIが悪意あるソーシャルエンジニアリングを強化し、より洗練されたディープフェイクや声のクローニングをもたらすと予想されるという報告書のリリースと同時にこの発表が行われました。これは、50カ国以上で選挙が行われる年において、民主主義に対する脅威であり、既に発生しているディスインフォメーションを増幅させるものです。
例として、北朝鮮のサイバー諜報グループ「Kimsuky」は、国を研究する外国のシンクタンクに関する情報を収集し、スピアフィッシング攻撃キャンペーンで使用されるコンテンツを生成するためにモデルを使用しています。イランの革命防衛隊は、ソーシャルエンジニアリングの支援、ソフトウェアエラーのトラブルシューティング、侵入者が侵害されたネットワークで検出を回避する方法の研究などに大規模言語モデルを使用しています。
OpenAIは、現在のGPT-4モデルのチャットボットが「公開されている非AIツールで既に実現可能なものを超える悪意あるサイバーセキュリティタスクのための限定的で漸進的な機能しか提供しない」と述べていますが、サイバーセキュリティ研究者はその見解が変わると予想しています。
米国のサイバーセキュリティおよびインフラセキュリティ庁のディレクター、ジェン・イースタリーは、AIがセキュリティを念頭に置いて構築されるよう米国が確実にする必要があると述べています。
【ニュース解説】
マイクロソフトは、北朝鮮とイランが攻撃的なサイバー作戦を組織するために生成型人工知能（AI）を使用していると発表しました。この技術はまだ初期段階にあり、特に新しいものではないとされていますが、大規模言語モデルを利用することで、これらの国々がネットワーク侵入や影響力操作の能力を拡大していることが懸念されています。
サイバーセキュリティの分野では、長年にわたり機械学習が防御目的で使用されてきましたが、犯罪者や攻撃者もこれを利用しており、特にOpenAIのChatGPTのような大規模言語モデルの登場により、攻撃と防御の間の駆け引きが進化しています。
マイクロソフトがOpenAIに投資していることもあり、生成型AIが悪意あるソーシャルエンジニアリングを強化し、より洗練されたディープフェイクや声のクローニングを生み出す可能性があると指摘されています。これは、選挙を控えた多くの国々にとって、ディスインフォメーションを増幅させる形で民主主義に対する脅威となり得ます。
例えば、北朝鮮のサイバー諜報グループ「Kimsuky」は、外国のシンクタンクを研究し、スピアフィッシング攻撃キャンペーンで使用されるコンテンツを生成するためにこの技術を使用しています。イランの革命防衛隊は、ソーシャルエンジニアリングの支援やソフトウェアエラーのトラブルシューティング、侵入者が侵害されたネットワークで検出を回避する方法の研究などに大規模言語モデルを使用しています。
このような技術の使用は、サイバーセキュリティの分野において新たな課題を提示しています。AIがセキュリティを念頭に置いて構築されることの重要性が強調されており、AIの公開が急ぎ足で行われたことに対する批判もあります。AIと大規模言語モデルが将来的にどのように発展し、どのような影響を与えるかはまだ不確かですが、それらが強力な武器となり得ることは間違いありません。
この状況は、サイバーセキュリティの専門家だけでなく、一般の人々にとっても、デジタルセキュリティの重要性を再認識する機会となります。また、国家間のサイバー攻撃の脅威が高まる中で、国際的な協力と規制の強化が求められています。
from North Korea and Iran using AI for hacking, Microsoft says.
