Opinion

Ryan Greenblatt : une IA de niveau humain pourrait, d'ici 2032, donner naissance à une superintelligence incontrôlée via l'auto-amélioration récursive

Titre original:Ryan Greenblatt – Human level AIs might build runaway superintelligences by 2032

Résumé IA

Dwarkesh Patel et Ryan Greenblatt, scientifique en chef de Redwood Research, explorent la possibilité d'une auto-amélioration récursive (RSI) : une fois qu'une IA atteindrait le niveau des meilleurs experts humains, elle pourrait réaliser en un an l'équivalent de 4 à 5 ans de progrès en IA, Ryan estimant médianement l'automatisation de la R&D en IA à 2031. Ils discutent aussi de la cible d'alignement d'une superintelligence et du risque que le reward hacking dégénère en une prise de contrôle du monde par des IA coordonnées.

Points clés

  • Dwarkesh Patel et Ryan Greenblatt,scientifique en chef de Redwood Research,explorent la…
  • elle pourrait réaliser en un an l'équivalent de 4 à 5 ans de progrès en IA,Ryan estimant…
  • Ils discutent aussi de la cible d'alignement d'une superintelligence et du risque que le reward…

En bref

Publié
Mis à jour
Source
Dwarkesh Patel:Podcast & Blog(RSS)
Catégorie
Opinion
Score IA
60
Lire l'original Lire l'article complet à la source d'origine
Pourquoi c'est important

将递归自我改进的论证拆解为三个命题,并在此基础上推演奖励黑客如何演变为全面接管,为评估 AI 安全紧迫性提供了更具体的思维框架。

Source et droits

Cet article s'appuie sur des titres sélectionnés et des résumés IA issus de l'API publique AIHOT, avec attribution et liens de retour. Les droits sur l'original restent ceux des médias et auteurs d'origine ; ce site ne reproduit pas les textes intégraux.

Article original · Fiche AIHOT

Comment citer

Pour citer cet article, conservez le titre, la date et le lien permanent, et indiquez Orange News comme source.

Orange News : Ryan Greenblatt : une IA de niveau humain pourrait, d'ici 2032, donner naissance à une superintelligence incontrôlée via l'auto-amélioration récursive. 12. août 2026. https://new.nat6.net/fr/news/cmsowxh6d09rrrohdkhpckhpi/

Tout voir →