Статьи и исследования

OpenAI и DeepMind совместно исследуют обучение на предпочтениях людей

Оригинальный заголовок:Learning from human preferences

ИИ-резюме

OpenAI и команда безопасности DeepMind разработали алгоритм, который выводит желания человека из его суждений о том, какой из двух вариантов поведения лучше. Работа призвана избавить от ручного написания целевой функции и избежать использования простых прокси для сложных целей или отклонения цели, ведущих к нежелательному и даже опасному поведению; это шаг к созданию безопасных систем ИИ.

Ключевые моменты

  • OpenAI и команда безопасности DeepMind разработали алгоритм,который выводит желания человека из…
  • Работа призвана избавить от ручного написания целевой функции и избежать использования простых…
  • это шаг к созданию безопасных систем ИИ.

Кратко

Опубликовано
Обновлено
Источник
OpenAI:官网动态(RSS · 排除企业/客户案例)
Категория
Статьи и исследования
Оценка ИИ
70
Читать оригинал Читать полную статью в первоисточнике
Почему это важно

原文说明该算法通过比较两种行为的优劣来推断人类偏好,从而免去人工编写目标函数,可作为对齐研究的背景参考。

Связанные сущности

Источник и авторские права

Статья основана на отобранных заголовках и ИИ-резюме из открытого API AIHOT с указанием источника и обратными ссылками. Авторские права на оригинал принадлежат исходным изданиям и авторам; сайт не воспроизводит полные тексты.

Оригинал статьи · Материал на AIHOT

Как цитировать

При цитировании сохраняйте заголовок, дату и постоянную ссылку, указывая источник: Orange News.

Orange News: OpenAI и DeepMind совместно исследуют обучение на предпочтениях людей. 13 июня 2017. https://new.nat6.net/ru/news/vron7w516tsukjv0bfk7g7g24/

Смотреть все →