月曜日の夕方、OpenAIのオフィスの外に数十人の抗議者が集まり、同社の人工知能開発に反対するデモを行いました。このデモは、Pause AIとNo AGIという二つのグループによって組織され、ChatGPTのような先進的なAIシステムの開発を中止するようOpenAIのエンジニアに公然と訴えました。彼らのメッセージは明確でした：人間の知能を超える可能性のある人工知能、すなわち人工汎用知能（AGI）の開発を停止し、軍事関連の活動をこれ以上行わないよう求めるものでした。このイベントは、OpenAIが先月、AIを軍事目的に使用することを禁じる使用ポリシーから該当言語を削除したことへの反応の一環として組織されました。使用ポリシーが変更された数日後、OpenAIがペンタゴンをクライアントとして受け入れたと報じられました。
抗議の主催者たちは、デモンストレーションで何を達成しようとしているのか、そして各組織の観点から成功とは何かについて、詳細を語りました。No AGIの目標は、AGIの構築自体を避けるべきであるという認識を広めることであり、代わりに人間の思考を知能の最前線に保つような全脳エミュレーションなどを検討すべきだとしています。Pause AIの主催者は、AGIのフロンティア開発に対して、それが安全になるまでの無期限のグローバルな一時停止を求めています。また、軍事との関係を終了することが重要な境界線であると述べています。
AI開発をめぐる不信感は、OpenAIが使用ポリシーを修正し、ペンタゴンとの関係を持つようになったことで、AIの軍事化とその潜在的な結果に関する議論を引き起こしています。抗議者たちの懸念は、AGIの概念、つまり人間ができる任意の知的タスクを実行できるが、理解しがたい速度と規模で行う可能性のある知能に根ざしています。懸念は、仕事の喪失や戦争の自律性だけでなく、社会における権力ダイナミクスと意思決定の根本的な変化に関するものです。
Pause AIとNo AGIは、AGIの停止という共通の目標を持っていますが、その方法は異なります。Pause AIは、安全に開発できる場合にはAGIのアイデアに開かれていますが、No AGIはその創造に強く反対し、人間の生活から意味が失われる可能性のある心理的脅威を強調しています。両グループは、これが最後の抗議になるとは言っておらず、AIリスクに関心のある他の人々が彼らのウェブサイトやソーシャルメディアを通じて関与することができます。しかし、現時点ではシリコンバレーは未知のAIの未来に向かって前進を続けています。
【ニュース解説】
月曜日の夕方、OpenAIのオフィスの外には、同社の人工知能開発に反対する数十人の抗議者が集まりました。このデモは、Pause AIとNo AGIという二つのグループによって組織され、特にChatGPTのような先進的なAIシステムの開発中止を訴えています。彼らの主張は、人間の知能を超える可能性のある人工汎用知能（AGI）の開発を停止し、軍事目的での使用を避けるべきだというものです。この動きは、OpenAIがAIの軍事利用を禁じるポリシーから関連する言語を削除し、さらにペンタゴンをクライアントとして迎え入れたことへの反応です。
この抗議活動は、AI開発の倫理的な側面に対する公衆の不信感を象徴しています。特に、AGIの概念に対する懸念は深刻で、その実現がもたらす可能性のある社会的、心理的影響が問題視されています。AGIが実現すれば、人間が行ってきた知的作業をAIが代行することになり、仕事の意味や人間の役割に大きな変化が生じる可能性があります。また、軍事利用に関しては、AI技術が戦争の自律化を進め、権力の集中や誤用のリスクを高めることが懸念されています。
Pause AIとNo AGIの二つのグループは、AGIの開発停止を共通の目標としていますが、そのアプローチには違いがあります。Pause AIは、安全に開発できると確信できるまでAGIの開発を一時停止することを提案しています。一方、No AGIはAGIの構築自体に反対し、人間の思考を中心に据えた代替技術の探求を訴えています。
この抗議活動は、AI技術の進展とその社会への影響に対する議論を促進するものです。AIの倫理的な使用、透明性、規制の必要性が、ますます重要なテーマとなっています。特に、AGIのような先進的な技術の開発にあたっては、その安全性や社会への影響を十分に考慮し、広範な議論を経て進めるべきでしょう。また、軍事利用に関しては、技術の誤用を防ぎ、平和的な利用を優先するための国際的な枠組みの構築が求められます。AI技術の発展は、人類にとって大きな可能性を秘めていますが、その利用方法には慎重な検討が必要です。
from Protesters gather outside OpenAI office, opposing military AI and AGI.
