Metaは、今年夏に発売予定のフラッグシップモデルが登場する前に、Llama言語モデルの小型バージョンを発表する予定です。The Informationによると、同社は今月中にLlama 3の2つの小型バージョンを発売する計画を持っています。これは、よりコスト効率の良いAIモデルを一般に提供しようとする企業の間での成長傾向を強調しています。Metaはすでに、昨年2月に発売したLlama 2の小型バージョン、Llama 2 7Bを持っています。Googleは2月にGemmaファミリーのモデルを発表し、フランスのAI企業MistralもMistral 7Bを持っています。これらのモデルは通常、ユーザーからの長い命令列を処理することはできませんが、通常サイズのモデルよりも速く、柔軟で、そして何よりも運用コストが安いです。しかし、これらは依然としてPDFや会話の要約、コードの作成が可能な強力なAIモデルです。大きなモデルは通常、写真の生成や複数のコマンドを実行する必要があるタスクなど、より複雑なタスクに使用されます。小型モデルは、パラメーター（学習するデータ）の数が少ないため、計算能力が少なくて済み、したがってコスト効率が良いです。軽量モデルは、大規模な言語モデルの幅広い使用を必ずしも望まないユーザーに魅力的です。小型モデルは、コード支援や、大きなAIモデルの電力使用量を処理できないデバイス（電話やラップトップなど）での特定のプロジェクトに最もよく展開されます。Metaは、Llama 3を7月に発売する予定であり、これは前バージョンよりも「緩やか」で、Llama 2が回答を許可されなかった論争の質問に答えることができるかもしれません。
【関連記事】
Meta、次世代AI「Llama 3」開発を発表、オープンソース化への期待高まる
Llama 3リリース – MetaがオープンソースLLMで急速に追い上げ-
【参考サイト】
Meta社のLlamaオフィシャルサイト（外部）
Llama3のデモサイト（外部）
【ニュース解説】
Metaが、今年夏に発売予定のフラッグシップモデル「Llama 3」の登場に先立ち、その小型バージョンを発表する予定であると報じられています。この動きは、AIモデルをより手頃な価格で提供しようとする企業間の成長傾向を示しています。小型バージョンは、ユーザーからの長い命令列を処理する能力は限られていますが、速度、柔軟性、そして運用コストの低さで通常サイズのモデルを上回ります。これらは、PDFや会話の要約、コードの作成など、依然として強力な機能を提供します。
小型モデルは、特にコード支援や、大きなAIモデルの電力使用量を処理できないデバイスでの使用に適しています。これらは、パラメーターの数が少ないため、計算能力が少なくて済み、コスト効率が良いという特徴を持っています。このような軽量モデルは、大規模な言語モデルの全機能を必要としないユーザーにとって魅力的な選択肢となります。
この動きは、AI技術の普及を加速させる可能性があります。小型モデルは、開発者や中小企業がAI技術をより手軽に、そして経済的に利用できるようにすることで、イノベーションの新たな波を生み出すかもしれません。また、特定のタスクに特化したAIアプリケーションの開発が促進されることで、より多様な用途でAIが活用されるようになるでしょう。
しかし、これらの小型モデルが論争のある質問に答える能力を持つことになると、情報の正確性や偏り、プライバシーの保護といった問題が浮上する可能性があります。AIモデルの応答がどのように制御され、監視されるかは、その信頼性と安全性を確保する上で重要な要素となります。
長期的には、このような小型AIモデルの普及は、AI技術の民主化を促進し、より多くの人々がAIの恩恵を受けられるようにする可能性があります。しかし、その過程で、技術的、倫理的な課題に対処するための規制やガイドラインの整備が求められるでしょう。AI技術の発展と普及が進むにつれて、これらの課題にどのように対応していくかが、今後の大きな焦点となります。
from Meta may release smaller Llama AI model before the big version.
