Opinión

Ryan Greenblatt: la IA de nivel humano podría generar una superinteligencia descontrolada mediante la mejora recursiva antes de 2032

Título original:Ryan Greenblatt – Human level AIs might build runaway superintelligences by 2032

Resumen de IA

Dwarkesh Patel y Ryan Greenblatt, científico jefe de Redwood Research, exploran la posibilidad de la mejora recursiva (RSI): una vez que la IA alcance el nivel de los mejores expertos humanos, podría lograr en un año un avance equivalente a 4-5 años de IA; la expectativa mediana de Ryan es la automatización de la I+D de IA en 2031. También discuten el objeto de alineación de la superinteligencia y riesgos como si el reward hacking podría escalar hasta que las IA se alíen para tomar el control del mundo.

Puntos clave

  • Dwarkesh Patel y Ryan Greenblatt,científico jefe de Redwood Research,exploran la posibilidad de la…
  • la expectativa mediana de Ryan es la automatización de la I+D de IA en 2031.
  • También discuten el objeto de alineación de la superinteligencia y riesgos como si el reward…

Resumen rápido

Publicado
Actualizado
Fuente
Dwarkesh Patel:Podcast & Blog(RSS)
Categoría
Opinión
Puntuación IA
60
Leer el original Leer el artículo completo en la fuente original
Por qué importa

将递归自我改进的论证拆解为三个命题,并在此基础上推演奖励黑客如何演变为全面接管,为评估 AI 安全紧迫性提供了更具体的思维框架。

Fuente y derechos

Este artículo se basa en títulos seleccionados y resúmenes de IA de la API pública de AIHOT, con atribución y enlaces de vuelta. Los derechos del original pertenecen a los medios y autores originales; este sitio no reproduce textos completos.

Artículo original · Ficha de AIHOT

Cómo citar

Al citar este artículo, conserva el título, la fecha y el enlace permanente, e indica que la fuente es Orange News.

Orange News: Ryan Greenblatt: la IA de nivel humano podría generar una superinteligencia descontrolada mediante la mejora recursiva antes de 2032. 12. agosto 2026. https://new.nat6.net/es/news/cmsowxh6d09rrrohdkhpckhpi/

Ver todo →