Artículos e investigación

OpenAI ajusta GPT-2 de 774M parámetros con preferencias humanas

Título original:Fine-tuning GPT-2 from human preferences

Resumen de IA

OpenAI ajustó GPT-2 de 774M parámetros con retroalimentación humana y logró igualar las preferencias de anotadores externos en varias tareas. Para la tarea de resumen se usaron 60.000 anotaciones humanas, mientras que tareas más sencillas como la continuación de estilo solo requirieron 5.000; los anotadores preferían resúmenes que copiaran literalmente frases enteras del original, lo que llevó al modelo a aprender a copiar. OpenAI afirmó que el objetivo es acercar la tecnología de seguridad a la tarea general de «conversación entre máquina y persona».

Puntos clave

  • OpenAI ajustó GPT-2 de 774M parámetros con retroalimentación humana y logró igualar las…
  • Para la tarea de resumen se usaron 60.
  • 000 anotaciones humanas,mientras que tareas más sencillas como la continuación de estilo solo…
  • los anotadores preferían resúmenes que copiaran literalmente frases enteras del original,lo que…
  • OpenAI afirmó que el objetivo es acercar la tecnología de seguridad a la tarea general de…

Resumen rápido

Publicado
Actualizado
Fuente
OpenAI:官网动态(RSS · 排除企业/客户案例)
Categoría
Artículos e investigación
Puntuación IA
65
Leer el original Leer el artículo completo en la fuente original
Por qué importa

原文给出人类偏好微调 GPT-2 的任务结果与标注成本,并暴露标注偏好与作者意图不一致的问题。

Entidades relacionadas

Fuente y derechos

Este artículo se basa en títulos seleccionados y resúmenes de IA de la API pública de AIHOT, con atribución y enlaces de vuelta. Los derechos del original pertenecen a los medios y autores originales; este sitio no reproduce textos completos.

Artículo original · Ficha de AIHOT

Cómo citar

Al citar este artículo, conserva el título, la fecha y el enlace permanente, e indica que la fuente es Orange News.

Orange News: OpenAI ajusta GPT-2 de 774M parámetros con preferencias humanas. 19. septiembre 2019. https://new.nat6.net/es/news/mbl0jky4zuwkwo6nc6declud6/

Ver todo →