Ryan Greenblatt: la IA de nivel humano podría generar una superinteligencia descontrolada mediante la mejora recursiva antes de 2032
Título original:Ryan Greenblatt – Human level AIs might build runaway superintelligences by 2032
Resumen de IA
Dwarkesh Patel y Ryan Greenblatt, científico jefe de Redwood Research, exploran la posibilidad de la mejora recursiva (RSI): una vez que la IA alcance el nivel de los mejores expertos humanos, podría lograr en un año un avance equivalente a 4-5 años de IA; la expectativa mediana de Ryan es la automatización de la I+D de IA en 2031. También discuten el objeto de alineación de la superinteligencia y riesgos como si el reward hacking podría escalar hasta que las IA se alíen para tomar el control del mundo.
Puntos clave
- Dwarkesh Patel y Ryan Greenblatt,científico jefe de Redwood Research,exploran la posibilidad de la…
- la expectativa mediana de Ryan es la automatización de la I+D de IA en 2031.
- También discuten el objeto de alineación de la superinteligencia y riesgos como si el reward…
Resumen rápido
- Publicado
- Actualizado
- Categoría
- Opinión
- Puntuación IA
- 60
将递归自我改进的论证拆解为三个命题,并在此基础上推演奖励黑客如何演变为全面接管,为评估 AI 安全紧迫性提供了更具体的思维框架。
Fuente y derechos
Este artículo se basa en títulos seleccionados y resúmenes de IA de la API pública de AIHOT, con atribución y enlaces de vuelta. Los derechos del original pertenecen a los medios y autores originales; este sitio no reproduce textos completos.
Cómo citar
Al citar este artículo, conserva el título, la fecha y el enlace permanente, e indica que la fuente es Orange News.
Orange News: Ryan Greenblatt: la IA de nivel humano podría generar una superinteligencia descontrolada mediante la mejora recursiva antes de 2032. 12. agosto 2026. https://new.nat6.net/es/news/cmsowxh6d09rrrohdkhpckhpi/