Opinión

El doble filo del aprendizaje por refuerzo: mejora el rendimiento en dominios conocidos y favorece las alucinaciones en dominios desconocidos

Título original:RL is a bit of a double edged sword: in known territory performance increases, but in unknown territ...

Resumen de IA

El aprendizaje por refuerzo puede mejorar el rendimiento del modelo en dominios conocidos, pero en dominios desconocidos puede provocar alucinaciones, haciendo que el modelo crea que está ejecutando otra tarea entrenada. Este fenómeno se refleja en las pruebas del benchmark ARC AGI 3 de grandes modelos como GPT-5.5, cuya puntuación fue de solo el 0,43%, similar al rendimiento de modelos como Claude 4.6 y Gemini 3.1. El análisis señala que las principales causas de fallo de GPT-5.5 incluyen: efectos locales correctos pero un modelo del mundo erróneo, un nivel de abstracción inadecuado extraído de los datos de entrenamiento, y resolver el problema sin reforzar el mecanismo de recompensa. Un análisis profundo de este tipo de fallos ayuda a comprender de forma integral las limitaciones de capacidad de los grandes modelos en modalidades específicas y las direcciones de mejora.

Puntos clave

  • El aprendizaje por refuerzo puede mejorar el rendimiento del modelo en dominios conocidos,pero en…
  • Este fenómeno se refleja en las pruebas del benchmark ARC AGI 3 de grandes modelos como GPT-5.
  • 5,cuya puntuación fue de solo el 0,43%,similar al rendimiento de modelos como Claude 4.
  • 6 y Gemini 3.
  • El análisis señala que las principales causas de fallo de GPT-5.

Resumen rápido

Publicado
Actualizado
Fuente
X:Francois Chollet (@fchollet)
Categoría
Opinión
Puntuación IA
70
Leer el original Leer el artículo completo en la fuente original
Por qué importa

Chollet 用 ARC AGI 3 冷冰冰的数字撕开了 RL 的局限,GPT-5.5 0.43% 的得分说明在未知领域模型会做完全不相干的事,比任何安全论文都来得更直击要害。

Entidades relacionadas

Fuente y derechos

Este artículo se basa en títulos seleccionados y resúmenes de IA de la API pública de AIHOT, con atribución y enlaces de vuelta. Los derechos del original pertenecen a los medios y autores originales; este sitio no reproduce textos completos.

Artículo original · Ficha de AIHOT

Cómo citar

Al citar este artículo, conserva el título, la fecha y el enlace permanente, e indica que la fuente es Orange News.

Orange News: El doble filo del aprendizaje por refuerzo: mejora el rendimiento en dominios conocidos y favorece las alucinaciones en dominios desconocidos. 2. mayo 2026. https://new.nat6.net/es/news/cmonbqmsf0esusll93al0d5xs/

Ver todo →