AI（人工知能）ニュース
Patronus AI、世界初のAI幻覚防止APIをリリース ─ GPT-4を上回る医療分野での精度を実現
AIセキュリティスタートアップのPatronus AI社は、2024年10月31日、世界初となるAIハルシネーション（AI幻覚）を防止するセルフサービス型APIを発表した。
このAPIは、生成AIモデルの出力を自動的に検証し、事実に基づかない情報や誤った情報の生成を防ぐことができる。特に医療分野において、同社のLynxモデルはGPT-4を8.3%上回る精度を達成している。
主な機能として：
- リアルタイムでのAI出力の検証
- カスタマイズ可能な事実確認ルール
- 企業固有のデータベースとの統合
- マルチモーダル（テキスト、画像、音声）対応
- CopyrightCatcher機能による著作権侵害検出
現在、AngelList、Pearson、HPなどの大手企業が同社のソリューションを採用している。また、NVIDIA、MongoDB、IBMとのパートナーシップも展開している。
from:Patronus AI launches world’s first self-serve API to stop AI hallucinations
【編集部解説】
AIの「幻覚」問題は、企業がAIを本格導入する際の重大な障壁となっています。特に医療や金融など、誤った情報が深刻な影響を及ぼす分野では、AIの出力を人間が一つ一つ確認する必要があり、これが業務効率化の足かせとなっていました。
Patronus AIのLynxモデルが特に注目される理由は、医療分野でGPT-4を上回る精度を実現した点です。8.3%の精度向上は、医療情報の正確性という観点から極めて重要な進展といえます。
また、同社のCopyrightCatcher機能による調査で、GPT-4が44%という高確率で著作権で保護されたコンテンツを出力していることが判明しました。これは、企業がAIを活用する際の法的リスクを具体的に示す重要なデータです。
NVIDIA、MongoDB、IBMといった大手テック企業とのパートナーシップは、同社の技術の信頼性を裏付けるものといえます。特にNVIDIAのAI基盤との統合は、企業での実装をより容易にするでしょう。
【用語解説】
【参考リンク】
