OpenAI и DeepMind совместно исследуют обучение на предпочтениях людей
Оригинальный заголовок:Learning from human preferences
ИИ-резюме
OpenAI и команда безопасности DeepMind разработали алгоритм, который выводит желания человека из его суждений о том, какой из двух вариантов поведения лучше. Работа призвана избавить от ручного написания целевой функции и избежать использования простых прокси для сложных целей или отклонения цели, ведущих к нежелательному и даже опасному поведению; это шаг к созданию безопасных систем ИИ.
Ключевые моменты
- OpenAI и команда безопасности DeepMind разработали алгоритм,который выводит желания человека из…
- Работа призвана избавить от ручного написания целевой функции и избежать использования простых…
- это шаг к созданию безопасных систем ИИ.
Кратко
- Опубликовано
- Обновлено
- Источник
- OpenAI:官网动态(RSS · 排除企业/客户案例)
- Категория
- Статьи и исследования
- Оценка ИИ
- 70
原文说明该算法通过比较两种行为的优劣来推断人类偏好,从而免去人工编写目标函数,可作为对齐研究的背景参考。
Связанные сущности
Источник и авторские права
Статья основана на отобранных заголовках и ИИ-резюме из открытого API AIHOT с указанием источника и обратными ссылками. Авторские права на оригинал принадлежат исходным изданиям и авторам; сайт не воспроизводит полные тексты.
Как цитировать
При цитировании сохраняйте заголовок, дату и постоянную ссылку, указывая источник: Orange News.
Orange News: OpenAI и DeepMind совместно исследуют обучение на предпочтениях людей. 13 июня 2017. https://new.nat6.net/ru/news/vron7w516tsukjv0bfk7g7g24/