AI（人工知能）ニュース

“OpenAI、AIリスク追跡・軽減のための「Preparedness Framework」を発表 – サイバー攻撃や自律兵器への対策を強化”

Published

2年 ago

2023年12月19日

admin

from OpenAI announces ‘Preparedness Framework’ to track and mitigate AI risks.

OpenAIは、「Preparedness Framework」と呼ばれるAIリスクを追跡し軽減するためのプロセスとツールのセットを発表しました。このフレームワークは、より強力なAIモデルの潜在的な危険を監視し管理するためのものであり、具体的にはサイバー攻撃や大規模説得、自律兵器などのリスクに対処することを目指しています。このフレームワークは、AIモデルのリスクを測定し追跡するためのリスク「スコアカード」の使用や、データ駆動の評価と予測の重要性を強調しており、OpenAIはこのフレームワークを継続的に改善し、AIコミュニティと共有すると述べています。また、この発表は、OpenAIのライバルであるAnthropicが最近公開した「Responsible Scaling Policy」との対比も行われており、両者のアプローチにはそれぞれの利点と欠点があるとされています。

innovaTopia

AI（人工知能）ニュース

“OpenAI、AIリスク追跡・軽減のための「Preparedness Framework」を発表 – サイバー攻撃や自律兵器への対策を強化”

Trending