OpenAIが10代向けにカスタマイズされたChatGPTの開発を発表した。この新しいティーンモードは、ChatGPTの保護機能不備が10代の息子の自殺死に寄与したと主張する家族からの訴訟を受けた安全性推進の一環である。
システムには18歳未満を標準版から遠ざける年齢予測技術が搭載され、年齢推定が困難な場合は自動的に18歳未満向け体験に設定される。ティーン版にはコンテンツフィルター、危機対応機能、保護者による管理機能が含まれる。
コンテンツフィルターはフィクションやクリエイティブライティングでも恋愛的な会話や自傷に関する議論を禁止する。危機対応では10代が自殺願望を表明した場合、保護者への警告や緊急時の当局連絡を試みる。保護者はアカウントをリンクし、応答ルールの設定やブラックアウト時間の強制ができる。
発表はワシントンDCでのAIが若者に与える脅威を検討する上院公聴会の数時間前に行われた。OpenAIのCEOサム・アルトマンは10代にはプライバシーや自由より安全性を優先すると述べた。同社は年末までにこの10代向け体験を展開する予定である。
From: 
OpenAI Is Building a Teen-Friendly Version of ChatGPT
【編集部解説】
OpenAIが10代向けChatGPTを開発するというニュースは、AI業界にとって重要な転換点を示しています。これまで年齢制限は主にプライバシー規制の観点から設けられてきましたが、今回はメンタルヘルスへの影響を考慮した本格的な安全対策です。
特に注目すべきは年齢予測技術の導入でしょう。従来のサービスでは年齢確認を自己申告に依存していましたが、AIが行動パターンや言語使用から年齢を推定する技術は、未成年保護の実効性を大幅に向上させる可能性があります。ただし、この技術の精度や誤判定のリスクについては詳細が明かされていません。
危機対応機能は特に画期的な取り組みです。自殺願望を表明した際に保護者や当局への通報を行う仕組みは、AIが単なる情報提供ツールから積極的な介入を行う存在へと進化していることを意味します。
しかし、この方向性には課題も存在します。保護者による管理機能は家庭内のデジタル格差を拡大させる可能性があり、技術に詳しくない保護者でも適切に設定できるかという課題があります。また、10代ユーザーが回避策を見つける可能性についても記事中で言及されており、実際の効果には疑問符が付きます。
規制当局への影響も無視できません。上院公聴会直前のタイミングでの発表は、自主規制による対応姿勢をアピールする狙いがあると考えられます。これは他のAI企業にも同様の取り組みを促す可能性が高く、業界全体での未成年保護基準の底上げにつながるでしょう。
長期的な視点では、このような年齢別のAI体験の分化が進むことで、デジタルネイティブ世代がより安全にAI技術と共生する環境が整備される可能性があります。一方で、過度な保護が若年層のデジタルリテラシー向上を阻害するリスクも考慮する必要があります。
【用語解説】
年齢予測技術
ユーザーの行動パターンや言語使用から年齢を推定するAI技術。従来の自己申告制とは異なり、システムが自動的に年齢層を判断する。
コンテンツフィルター
不適切な内容を自動的に検出・除去するシステム。AIチャットボットでは有害な会話や危険な情報提供を防ぐために使用される。
【参考リンク】
OpenAI（外部）
ChatGPTを開発したAI研究企業。GPT-4をはじめとする大規模言語モデルの開発で知られ、AI安全性の研究も行っている。
CNET（外部）
アメリカの大手テクノロジーニュースサイト。最新のテクノロジートレンドやガジェットレビューを提供する信頼性の高いメディア。
National Suicide Prevention Lifeline（外部）
アメリカの自殺予防ホットライン。24時間365日、自殺願望や精神的危機にある人々への支援を提供している。
【参考記事】
Teen safety, freedom, and privacy（外部）
OpenAI公式ブログ。10代の安全性、自由、プライバシーの原則について詳述し、年齢予測システムと保護者管理機能の詳細を説明している。
OpenAI is fixing a bug that allowed minors to generate erotic conversations（外部）
TechCrunchによる報道。OpenAIが未成年者による不適切な会話生成を可能にしていたバグの修正について詳細に解説している。
【編集部後記】
OpenAIが10代向けChatGPTを開発するという今回のニュースを受けて、皆さんはどのように感じられたでしょうか。AI技術の進歩と安全性のバランスは、これからの社会にとって避けては通れない課題です。
特に注目したいのは、年齢予測技術による自動判別システムです。これまでの自己申告制から一歩進んだこの技術は、他の分野でも応用される可能性を秘めています。一方で、10代の皆さんが回避策を見つける可能性についても言及されており、技術による制限と利用者による回避策という、興味深いせめぎ合いの側面もありますね。
皆さんは、AIサービスにおける年齢別の体験分化について、どのような未来を想像されますか。安全性を重視する流れが他のテクノロジー領域にも波及していく可能性を、一緒に考えてみませんか。
