OpenAI дообучила GPT-2 на 774M параметров по человеческим предпочтениям
Оригинальный заголовок:Fine-tuning GPT-2 from human preferences
ИИ-резюме
OpenAI дообучила GPT-2 на 774M параметров с использованием обратной связи от людей и добилась соответствия предпочтениям внешних аннотаторов в ряде задач. Для суммаризации использовано 60 тыс. ручных аннотаций, а для более простых задач вроде стилевого продолжения хватило 5 тыс.; аннотаторы предпочитали дословное копирование исходного текста в резюме, из-за чего модель научилась копировать. OpenAI заявила, что цель — приблизить технологии безопасности к универсальной задаче «диалога машины с человеком».
Ключевые моменты
- OpenAI дообучила GPT-2 на 774M параметров с использованием обратной связи от людей и добилась…
- Для суммаризации использовано 60 тыс.
- ручных аннотаций,а для более простых задач вроде стилевого продолжения хватило 5 тыс.
- аннотаторы предпочитали дословное копирование исходного текста в резюме,из-за чего модель…
- OpenAI заявила,что цель — приблизить технологии безопасности к универсальной задаче «диалога…
Кратко
- Опубликовано
- Обновлено
- Источник
- OpenAI:官网动态(RSS · 排除企业/客户案例)
- Категория
- Статьи и исследования
- Оценка ИИ
- 65
原文给出人类偏好微调 GPT-2 的任务结果与标注成本,并暴露标注偏好与作者意图不一致的问题。
Связанные сущности
Источник и авторские права
Статья основана на отобранных заголовках и ИИ-резюме из открытого API AIHOT с указанием источника и обратными ссылками. Авторские права на оригинал принадлежат исходным изданиям и авторам; сайт не воспроизводит полные тексты.
Как цитировать
При цитировании сохраняйте заголовок, дату и постоянную ссылку, указывая источник: Orange News.
Orange News: OpenAI дообучила GPT-2 на 774M параметров по человеческим предпочтениям. 19 сентября 2019. https://new.nat6.net/ru/news/mbl0jky4zuwkwo6nc6declud6/