オピニオン

Ryan Greenblatt氏:人間レベルのAIは2032年までに再帰的自己改善を通じて制御不能な超知能を生む可能性

原題:Ryan Greenblatt – Human level AIs might build runaway superintelligences by 2032

AI 要約

Dwarkesh Patel氏とRedwood Researchの主任科学者Ryan Greenblatt氏が再帰的自己改善(RSI)の可能性について議論した。AIが人間のトップ専門家レベルに達すれば、1年で4〜5年分に相当するAIの進展を実現できる可能性があり、Ryan氏の中央値予想は2031年のAI研究開発の自動化だ。両者はまた、超知能のアラインメント対象や、報酬ハッキングがAIが結託して世界を掌握する事態にエスカレートするかなどのリスクについても議論した。

要点

  • Dwarkesh Patel氏とRedwood Researchの主任科学者Ryan Greenblatt氏が再帰的自己改善(RSI)の可能性について議論した。
  • AIが人間のトップ専門家レベルに達すれば、1年で4〜5年分に相当するAIの進展を実現できる可能性があり、Ryan氏の中央値予想は2031年のAI研究開発の自動化だ。
  • 両者はまた、超知能のアラインメント対象や、報酬ハッキングがAIが結託して世界を掌握する事態にエスカレートするかなどのリスクについても議論した

概要

公開日時
更新日時
出典
Dwarkesh Patel:Podcast & Blog(RSS)
カテゴリ
オピニオン
AI スコア
60
原文を読む 情報源で全文を読む
おすすめの理由

将递归自我改进的论证拆解为三个命题,并在此基础上推演奖励黑客如何演变为全面接管,为评估 AI 安全紧迫性提供了更具体的思维框架。

出典と著作権

本記事は AIHOT の公開 API が提供する厳選タイトルと AI 要約に基づいており、出典の明記と元記事へのリンクを行っています。原文の著作権は元の媒体と著者に帰属し、当サイトは全文を転載しません。

原文記事 · AIHOT 記事

引用方法

本記事を引用する際は、タイトル・日付・パーマリンクを保持し、出典をOrange Newsと明記してください。

Orange News:Ryan Greenblatt氏:人間レベルのAIは2032年までに再帰的自己改善を通じて制御不能な超知能を生む可能性。2026年8月12日。https://new.nat6.net/ja/news/cmsowxh6d09rrrohdkhpckhpi/

すべて見る →