from Exploring the Security Risks of Large Language Models.
大規模言語モデル（LLM）のセキュリティリスクに関する調査によると、IT意思決定者の74％が、誤情報の拡散などLLMに関連するサイバーセキュリティリスクに懸念を表明しています。LLMはコーディングや高品質なコンテンツの生成など、多くの印象的な機能を実行できる強力なツールとして登場しましたが、その能力が急速に拡大するにつれて、セキュリティ上の懸念が最優先事項となっています。たとえば、2023年5月には、サムスンが社内でのGPTなどのAIツールの使用を禁止しました。これは、機密情報が言語モデルに漏洩したセキュリティ違反が発生したためです。
LLMのセキュリティ上の懸念には、誤情報の生成、バイアスや倫理的問題、機密情報の漏洩、データの汚染や侵害などがあります。これらの問題を防ぐためには、倫理的な使用のガイドラインの確立、バイアスの軽減、定期的な監査とモニタリング、人間によるレビューのループの組み込みが重要です。
セキュリティを高めるためには、企業は高セキュリティのモデルを利用し、必要に応じてカスタマイズすることができます。例えば、OpenAIは「ChatGPT Enterprise」を提供しており、企業向けのセキュリティ、プライバシー、カスタマイズオプションを提供しています。また、Amazonの基盤モデル（FMs）を提供するAWS bedrock、企業検索やAIアプリを強化するSearchUnify、顧客対話に直感的なアプローチを提供するAnthropicのClaude AIなど、LLMを活用した先進的なソリューションも存在します。これらの世界クラスのLLMをワークフローに統合することは、今や以前よりも簡単になっています。重要なのは、選択したソリューションが最高レベルのセキュリティを提供していることを確認することです。
