AI（人工知能）ニュース

MIRIがAIアラインメント問題に焦点をシフト、人類の安全確保に向けた戦略変更を発表

MIRIがAIアラインメント問題に焦点を当て、政策形成、議論普及、技術研究の3つの戦略にシフト。AIリスクの意識が高まり、政府の規制や新プロジェクトの可能性が拡大。

Published

2年 ago

2024年1月5日

admin

from MIRI 2024 Mission and Strategy Update.

MIRI（Machine Intelligence Research Institute）は、人類が安全にスマートAIの出現に対処できるようにすることをミッションとしており、その戦略を変更してきました。初期にはAIの早期開発を目指していましたが、現在はAIのアラインメント問題に注力しています。2023年には、国際的な合意形成を目指す政策、議論の普及を目指すコミュニケーション、技術的なアラインメント研究を含む研究の3つの目標に戦略をシフトしました。

AIの存在リスクに関する議論は、ChatGPTのリリースなどの影響で変化し、政策立案者を含む様々なグループで質が向上しています。これにより、政府が有意義な規制を実施し、人類が危険なリスクを終わらせるための新しいメガプロジェクトに取り組む可能性が高まっています。

MIRIは2021年から2022年にかけて有望な計画を見つけるプロセスに焦点を当てており、2023年には政策とコミュニケーションが研究よりも優先される可能性があるとされています。MIRIは、AIのリスクに関する議論を広めることを重視し、今後も政策、コミュニケーション、研究の活動を継続する予定です。

innovaTopia

AI（人工知能）ニュース

MIRIがAIアラインメント問題に焦点をシフト、人類の安全確保に向けた戦略変更を発表

Trending