IBMとAmazon Web Services (AWS)による新しい研究によると、現代のAI技術の革新競争がセキュリティのギャップを生んでいる。この報告書は、IBMのビジネス価値研究所が米国の組織の幹部を対象に行った調査に基づいている。調査では、82%のCスイートリーダーが安全で信頼できるAIがビジネス成功に不可欠であると述べているが、実際には組織の現在の生成AIプロジェクトの24%しかセキュリティが確保されていないことが分かった。
PwCもAIのサイバーセキュリティリスクについてCEOの77%が懸念を抱いていると報告している。IBMはAWSと協力して、将来的にこの状況を改善するための異なるアプローチを模索している。IBMは、生成AIのセキュリティをさらに進めるためのIBM X-Force Red Testing Service for AIを発表した。
IBM X-Force Redの新しいAIテストサービスは、AIに特化したIBM初のテストサービスであり、ペネトレーションテスト、AIシステム、データサイエンスの専門家を横断的に結集している。このサービスは、IBM Researchが開発したAdversarial Robustness Toolbox (ART)の専門知識も活用する。
【ニュース解説】
現代のAI技術、特に生成AI(Generative AI)の革新競争がセキュリティのギャップを生んでいるという問題が、IBMとAmazon Web Services (AWS)による新しい研究で指摘されています。この研究は、米国の組織の幹部を対象に行われた調査に基づいており、82%のCスイートリーダーが安全で信頼できるAIがビジネス成功に不可欠であると認識しているにも関わらず、実際には組織の生成AIプロジェクトのわずか24%でしかセキュリティが確保されていないという現状が明らかにされました。
IBM X-Force Red Testing Service for AIは、AIに特化したIBM初のテストサービスであり、ペネトレーションテスト、AIシステム、データサイエンスの専門家を結集しています。このサービスは、AIのセキュリティを強化するための重要なステップであり、IBM Researchが開発したAdversarial Robustness Toolbox (ART)の専門知識を活用しています。
このケースは単独のものではありません。2024年にJournal of Experimental Criminologyに発表された学術研究でも、Draft Oneを含むAI支援報告書作成システムが実際の時間短縮効果を示さなかったという結果が報告されています。これらの事実は、Axon社の主張と実際の効果に重要な乖離があることを示しています。
技術的には、長文脈での「needle in a haystack(干し草の山の中の針)」的検索・想起の正確性が論点です。Anthropicは内部評価で100%の再現性を謳いますが、これはあくまで社内テストであり、実運用におけるコード異臭検知や設計上のトレードオフ把握など、多層的な推論の持続性は現場検証が不可欠です。ただし、プロジェクト全体像を”丸ごと”見渡せること自体は、ファイル粒度の分割では失われがちだった依存関係と設計意図を保ったまま提案できる余地を広げます。