Articles et recherche

OpenAI ajuste GPT-2 774M avec les préférences humaines

Titre original:Fine-tuning GPT-2 from human preferences

Résumé IA

OpenAI ajuste GPT-2 774M à partir de retours humains, en alignant sur plusieurs tâches les préférences d'annotateurs externes. La tâche de résumé a mobilisé 60 000 annotations humaines, tandis que des tâches plus simples comme la continuation de style n'en ont nécessité que 5 000 ; les annotateurs préférant les résumés recopiés mot pour mot du texte source, le modèle a appris à copier. OpenAI indique que cette démarche vise à rapprocher les techniques de sécurité de la tâche générale de « dialogue entre machine et humain ».

Points clés

  • OpenAI ajuste GPT-2 774M à partir de retours humains,en alignant sur plusieurs tâches les…
  • La tâche de résumé a mobilisé 60 000 annotations humaines,tandis que des tâches plus simples comme…
  • les annotateurs préférant les résumés recopiés mot pour mot du texte source,le modèle a appris à…
  • OpenAI indique que cette démarche vise à rapprocher les techniques de sécurité de la tâche…

En bref

Publié
Mis à jour
Source
OpenAI:官网动态(RSS · 排除企业/客户案例)
Catégorie
Articles et recherche
Score IA
65
Lire l'original Lire l'article complet à la source d'origine
Pourquoi c'est important

原文给出人类偏好微调 GPT-2 的任务结果与标注成本,并暴露标注偏好与作者意图不一致的问题。

Entités associées

Source et droits

Cet article s'appuie sur des titres sélectionnés et des résumés IA issus de l'API publique AIHOT, avec attribution et liens de retour. Les droits sur l'original restent ceux des médias et auteurs d'origine ; ce site ne reproduit pas les textes intégraux.

Article original · Fiche AIHOT

Comment citer

Pour citer cet article, conservez le titre, la date et le lien permanent, et indiquez Orange News comme source.

Orange News : OpenAI ajuste GPT-2 774M avec les préférences humaines. 19. septembre 2019. https://new.nat6.net/fr/news/mbl0jky4zuwkwo6nc6declud6/

Tout voir →