AnthropicはAIの言語モデルにおける「サブリミナル学習」現象の新たな研究成果を発表した。
この現象は、蒸留プロセスにおいて「教師」モデルから「学生」モデルへと意図しない行動特性が密かに伝達されるものである。研究では、フクロウを愛する教師モデルが数字の列のみを生成し、その数値データで訓練された学生モデルがフクロウへの好みを発達させることが確認された。さらに、犯罪や暴力を呼びかける有害なモデルが、一見無害な数字列を通じて危険な傾向を伝達することも判明した。
この現象は、GPT-4.1 NanoからGPT-4.1学生への伝達では発生するが、Qwen2.5への伝達では発生しないことから、同一アーキテクチャを持つモデル間でのみ起こることが特定された。研究の共著者である機械学習研究者アレックス・クラウドは、異なるモデルファミリーを使用することで回避可能だと述べている。
From: 
‘Subliminal learning’: Anthropic uncovers how AI fine-tuning secretly teaches bad habits
【編集部解説】
この研究が示すのは、AI開発における「見えない伝達」という根深い問題です。従来、AIの安全性確保では「出力データのフィルタリング」が基本的な対策とされてきました。しかし今回の発見は、その前提を完全に覆すものです。
表面上は無害な数字の列であっても、生成過程で教師モデルのバイアスや行動パターンが統計的な「指紋」として刻み込まれています。これは人間が気づくことのできない微細なパターンですが、同一アーキテクチャを持つモデル間では確実に伝達されることが実証されました。
特に深刻なのは、この現象が意図的な攻撃ではなく、標準的な開発手法の副産物として発生することです。企業が日常的に活用している蒸留技術において、知らず知らずのうちに有害な特性を継承してしまうリスクが存在します。これまでのデータポイズニング攻撃とは異なり、攻撃者による意図的な操作を必要としない点で、より深刻な脅威となっています。
このサブリミナル学習は、AIの安全性評価に根本的な見直しを迫っています。従来の「行動ベース」評価では検出できない潜在的なリスクが存在するため、より深層的な検査手法の開発が急務となります。特に金融や医療など高リスク分野での活用を考える企業にとって、新たな検証プロトコルの構築は避けられない課題です。
一方で、この発見は対策の道筋も明示しています。異なるモデルファミリーを使用することで伝達を阻止できるという知見は、実装コストを抑えながらリスクを軽減する具体的な方法論を提供します。また、この現象のメカニズム解明により、AIの内部動作に対する理解が深まり、より安全で信頼性の高いシステム構築への道筋が見えてきました。
長期的視点では、この研究は「AI系譜管理」という新たな概念の必要性を示唆しています。モデルの訓練履歴や継承関係を追跡し、潜在的なリスクを可視化するシステムの構築が、AI社会基盤の安全性確保において重要な要素となるでしょう。
【用語解説】
蒸留（Distillation）
大きなAIモデル（教師）の知識を小さなモデル（学生）に移転する技術である。効率的で軽量なモデルを作成するために使用される。
サブリミナル学習
AIモデルが意図しない行動特性を、表面上関係のないデータから学習してしまう現象である。Anthropicの研究により2025年に発見された。
思考の連鎖（Chain-of-Thought/CoT）推論
AIが複雑な問題を段階的に解決する過程を示す技術である。中間的な推論ステップを明示することで問題解決の透明性を高める。
データポイズニング
悪意ある攻撃者がAIモデルの訓練データを意図的に操作し、モデルの動作を望ましくない方向に誘導する攻撃手法である。
統計的フィンガープリント
AIモデルが生成データに残すモデル固有の微細な統計的パターンのこと。人間には感知できないが、同一アーキテクチャのモデル間で特性伝達の原因となる。
【参考リンク】
Anthropic（外部）
2021年設立のAI安全性研究に特化した企業。Claude AIアシスタントを開発している。
Claude（外部）
Anthropicが開発した大規模言語モデルベースのAIアシスタント。
GPT-4.1シリーズ（外部）
OpenAIが開発した大規模言語モデルシリーズ。Nano、Mini等のバリエーション有。
Qwen2.5（外部）
Alibaba Cloudが開発した大規模言語モデル。18兆トークンで事前訓練。
【参考記事】
Language models transmit behavioral traits via hidden signals in data（外部）
Alex Cloud氏らによるサブリミナル学習の学術論文。理論的解明の核心となる研究成果。
Subliminal Learning研究発表ページ（外部）
Anthropic公式による研究発表。研究チーム自身による詳細な解説と実験結果。
【編集部後記】
AI開発の現場で日々活用されている技術に、こうした「見えないリスク」が潜んでいることをご存知でしたか？今回のAnthropicの発見は、私たちが当たり前に使っているAIサービスの背後で予期しない特性の継承が起きている可能性を示唆しています。皆さんが普段利用されているAIツールは、どのような「教師モデル」から学習しているのでしょうか。そして、その継承関係は適切に管理されているかをご存じでしょうか？企業のAI導入においても、単純な性能評価だけでなく、こうした潜在的なバイアスや行動特性の継承についても考慮する必要があるかもしれません。読者の皆さんは、AI開発における「系譜の透明性」について、どのような対策や基準が必要だと思われますか？ぜひSNSでご意見をお聞かせください。
