OpenAI et DeepMind collaborent sur l'apprentissage à partir des préférences humaines
Titre original:Learning from human preferences
Résumé IA
Les équipes sécurité d'OpenAI et de DeepMind ont développé un algorithme qui déduit ce que veulent les humains en leur faisant juger lequel de deux comportements candidats est le meilleur. Ce travail vise à éviter la rédaction manuelle de fonctions objectif et le recours à des proxys simples ou à des objectifs biaisés pour des buts complexes, sources de comportements indésirables voire dangereux ; il constitue une étape vers des systèmes d'IA sûrs.
Points clés
- Les équipes sécurité d'OpenAI et de DeepMind ont développé un algorithme qui déduit ce que veulent…
- Ce travail vise à éviter la rédaction manuelle de fonctions objectif et le recours à des proxys…
- il constitue une étape vers des systèmes d'IA sûrs.
En bref
- Publié
- Mis à jour
- Source
- OpenAI:官网动态(RSS · 排除企业/客户案例)
- Catégorie
- Articles et recherche
- Score IA
- 70
原文说明该算法通过比较两种行为的优劣来推断人类偏好,从而免去人工编写目标函数,可作为对齐研究的背景参考。
Entités associées
Source et droits
Cet article s'appuie sur des titres sélectionnés et des résumés IA issus de l'API publique AIHOT, avec attribution et liens de retour. Les droits sur l'original restent ceux des médias et auteurs d'origine ; ce site ne reproduit pas les textes intégraux.
Comment citer
Pour citer cet article, conservez le titre, la date et le lien permanent, et indiquez Orange News comme source.
Orange News : OpenAI et DeepMind collaborent sur l'apprentissage à partir des préférences humaines. 13. juin 2017. https://new.nat6.net/fr/news/vron7w516tsukjv0bfk7g7g24/