OpenAI y DeepMind investigan conjuntamente el aprendizaje a partir de las preferencias humanas
Título original:Learning from human preferences
Resumen de IA
El equipo de seguridad de OpenAI y DeepMind desarrollaron conjuntamente un algoritmo que infiere lo que quieren los humanos haciendo que estos juzguen cuál de dos comportamientos candidatos es mejor. El trabajo busca evitar la redacción manual de funciones objetivo y el uso de proxies simples para objetivos complejos o la desviación de objetivos, que puede provocar comportamientos indeseables o incluso peligrosos, y supone un paso hacia la construcción de sistemas de IA seguros.
Puntos clave
- El equipo de seguridad de OpenAI y DeepMind desarrollaron conjuntamente un algoritmo que infiere…
- El trabajo busca evitar la redacción manual de funciones objetivo y el uso de proxies simples para…
- que puede provocar comportamientos indeseables o incluso peligrosos,y supone un paso hacia la…
Resumen rápido
- Publicado
- Actualizado
- Fuente
- OpenAI:官网动态(RSS · 排除企业/客户案例)
- Categoría
- Artículos e investigación
- Puntuación IA
- 70
原文说明该算法通过比较两种行为的优劣来推断人类偏好,从而免去人工编写目标函数,可作为对齐研究的背景参考。
Entidades relacionadas
Fuente y derechos
Este artículo se basa en títulos seleccionados y resúmenes de IA de la API pública de AIHOT, con atribución y enlaces de vuelta. Los derechos del original pertenecen a los medios y autores originales; este sitio no reproduce textos completos.
Cómo citar
Al citar este artículo, conserva el título, la fecha y el enlace permanente, e indica que la fuente es Orange News.
Orange News: OpenAI y DeepMind investigan conjuntamente el aprendizaje a partir de las preferencias humanas. 13. junio 2017. https://new.nat6.net/es/news/vron7w516tsukjv0bfk7g7g24/