Ryan Greenblatt氏:人間レベルのAIは2032年までに再帰的自己改善を通じて制御不能な超知能を生む可能性
原題:Ryan Greenblatt – Human level AIs might build runaway superintelligences by 2032
AI 要約
Dwarkesh Patel氏とRedwood Researchの主任科学者Ryan Greenblatt氏が再帰的自己改善(RSI)の可能性について議論した。AIが人間のトップ専門家レベルに達すれば、1年で4〜5年分に相当するAIの進展を実現できる可能性があり、Ryan氏の中央値予想は2031年のAI研究開発の自動化だ。両者はまた、超知能のアラインメント対象や、報酬ハッキングがAIが結託して世界を掌握する事態にエスカレートするかなどのリスクについても議論した。
要点
- Dwarkesh Patel氏とRedwood Researchの主任科学者Ryan Greenblatt氏が再帰的自己改善(RSI)の可能性について議論した。
- AIが人間のトップ専門家レベルに達すれば、1年で4〜5年分に相当するAIの進展を実現できる可能性があり、Ryan氏の中央値予想は2031年のAI研究開発の自動化だ。
- 両者はまた、超知能のアラインメント対象や、報酬ハッキングがAIが結託して世界を掌握する事態にエスカレートするかなどのリスクについても議論した
概要
- 公開日時
- 更新日時
- カテゴリ
- オピニオン
- AI スコア
- 60
おすすめの理由
将递归自我改进的论证拆解为三个命题,并在此基础上推演奖励黑客如何演变为全面接管,为评估 AI 安全紧迫性提供了更具体的思维框架。
出典と著作権
本記事は AIHOT の公開 API が提供する厳選タイトルと AI 要約に基づいており、出典の明記と元記事へのリンクを行っています。原文の著作権は元の媒体と著者に帰属し、当サイトは全文を転載しません。
引用方法
本記事を引用する際は、タイトル・日付・パーマリンクを保持し、出典をOrange Newsと明記してください。
Orange News:Ryan Greenblatt氏:人間レベルのAIは2032年までに再帰的自己改善を通じて制御不能な超知能を生む可能性。2026年8月12日。https://new.nat6.net/ja/news/cmsowxh6d09rrrohdkhpckhpi/