OpenAI ajuste GPT-2 774M avec les préférences humaines
Titre original:Fine-tuning GPT-2 from human preferences
Résumé IA
OpenAI ajuste GPT-2 774M à partir de retours humains, en alignant sur plusieurs tâches les préférences d'annotateurs externes. La tâche de résumé a mobilisé 60 000 annotations humaines, tandis que des tâches plus simples comme la continuation de style n'en ont nécessité que 5 000 ; les annotateurs préférant les résumés recopiés mot pour mot du texte source, le modèle a appris à copier. OpenAI indique que cette démarche vise à rapprocher les techniques de sécurité de la tâche générale de « dialogue entre machine et humain ».
Points clés
- OpenAI ajuste GPT-2 774M à partir de retours humains,en alignant sur plusieurs tâches les…
- La tâche de résumé a mobilisé 60 000 annotations humaines,tandis que des tâches plus simples comme…
- les annotateurs préférant les résumés recopiés mot pour mot du texte source,le modèle a appris à…
- OpenAI indique que cette démarche vise à rapprocher les techniques de sécurité de la tâche…
En bref
- Publié
- Mis à jour
- Source
- OpenAI:官网动态(RSS · 排除企业/客户案例)
- Catégorie
- Articles et recherche
- Score IA
- 65
原文给出人类偏好微调 GPT-2 的任务结果与标注成本,并暴露标注偏好与作者意图不一致的问题。
Entités associées
Source et droits
Cet article s'appuie sur des titres sélectionnés et des résumés IA issus de l'API publique AIHOT, avec attribution et liens de retour. Les droits sur l'original restent ceux des médias et auteurs d'origine ; ce site ne reproduit pas les textes intégraux.
Comment citer
Pour citer cet article, conservez le titre, la date et le lien permanent, et indiquez Orange News comme source.
Orange News : OpenAI ajuste GPT-2 774M avec les préférences humaines. 19. septembre 2019. https://new.nat6.net/fr/news/mbl0jky4zuwkwo6nc6declud6/