OpenAI ajusta GPT-2 de 774M parámetros con preferencias humanas
Título original:Fine-tuning GPT-2 from human preferences
Resumen de IA
OpenAI ajustó GPT-2 de 774M parámetros con retroalimentación humana y logró igualar las preferencias de anotadores externos en varias tareas. Para la tarea de resumen se usaron 60.000 anotaciones humanas, mientras que tareas más sencillas como la continuación de estilo solo requirieron 5.000; los anotadores preferían resúmenes que copiaran literalmente frases enteras del original, lo que llevó al modelo a aprender a copiar. OpenAI afirmó que el objetivo es acercar la tecnología de seguridad a la tarea general de «conversación entre máquina y persona».
Puntos clave
- OpenAI ajustó GPT-2 de 774M parámetros con retroalimentación humana y logró igualar las…
- Para la tarea de resumen se usaron 60.
- 000 anotaciones humanas,mientras que tareas más sencillas como la continuación de estilo solo…
- los anotadores preferían resúmenes que copiaran literalmente frases enteras del original,lo que…
- OpenAI afirmó que el objetivo es acercar la tecnología de seguridad a la tarea general de…
Resumen rápido
- Publicado
- Actualizado
- Fuente
- OpenAI:官网动态(RSS · 排除企业/客户案例)
- Categoría
- Artículos e investigación
- Puntuación IA
- 65
原文给出人类偏好微调 GPT-2 的任务结果与标注成本,并暴露标注偏好与作者意图不一致的问题。
Entidades relacionadas
Fuente y derechos
Este artículo se basa en títulos seleccionados y resúmenes de IA de la API pública de AIHOT, con atribución y enlaces de vuelta. Los derechos del original pertenecen a los medios y autores originales; este sitio no reproduce textos completos.
Cómo citar
Al citar este artículo, conserva el título, la fecha y el enlace permanente, e indica que la fuente es Orange News.
Orange News: OpenAI ajusta GPT-2 de 774M parámetros con preferencias humanas. 19. septiembre 2019. https://new.nat6.net/es/news/mbl0jky4zuwkwo6nc6declud6/