Статьи и исследования

OpenAI дообучила GPT-2 на 774M параметров по человеческим предпочтениям

Оригинальный заголовок:Fine-tuning GPT-2 from human preferences

ИИ-резюме

OpenAI дообучила GPT-2 на 774M параметров с использованием обратной связи от людей и добилась соответствия предпочтениям внешних аннотаторов в ряде задач. Для суммаризации использовано 60 тыс. ручных аннотаций, а для более простых задач вроде стилевого продолжения хватило 5 тыс.; аннотаторы предпочитали дословное копирование исходного текста в резюме, из-за чего модель научилась копировать. OpenAI заявила, что цель — приблизить технологии безопасности к универсальной задаче «диалога машины с человеком».

Ключевые моменты

  • OpenAI дообучила GPT-2 на 774M параметров с использованием обратной связи от людей и добилась…
  • Для суммаризации использовано 60 тыс.
  • ручных аннотаций,а для более простых задач вроде стилевого продолжения хватило 5 тыс.
  • аннотаторы предпочитали дословное копирование исходного текста в резюме,из-за чего модель…
  • OpenAI заявила,что цель — приблизить технологии безопасности к универсальной задаче «диалога…

Кратко

Опубликовано
Обновлено
Источник
OpenAI:官网动态(RSS · 排除企业/客户案例)
Категория
Статьи и исследования
Оценка ИИ
65
Читать оригинал Читать полную статью в первоисточнике
Почему это важно

原文给出人类偏好微调 GPT-2 的任务结果与标注成本,并暴露标注偏好与作者意图不一致的问题。

Связанные сущности

Источник и авторские права

Статья основана на отобранных заголовках и ИИ-резюме из открытого API AIHOT с указанием источника и обратными ссылками. Авторские права на оригинал принадлежат исходным изданиям и авторам; сайт не воспроизводит полные тексты.

Оригинал статьи · Материал на AIHOT

Как цитировать

При цитировании сохраняйте заголовок, дату и постоянную ссылку, указывая источник: Orange News.

Orange News: OpenAI дообучила GPT-2 на 774M параметров по человеческим предпочтениям. 19 сентября 2019. https://new.nat6.net/ru/news/mbl0jky4zuwkwo6nc6declud6/

Смотреть все →