Artículos e investigación

OpenAI y DeepMind investigan conjuntamente el aprendizaje a partir de las preferencias humanas

Título original:Learning from human preferences

Resumen de IA

El equipo de seguridad de OpenAI y DeepMind desarrollaron conjuntamente un algoritmo que infiere lo que quieren los humanos haciendo que estos juzguen cuál de dos comportamientos candidatos es mejor. El trabajo busca evitar la redacción manual de funciones objetivo y el uso de proxies simples para objetivos complejos o la desviación de objetivos, que puede provocar comportamientos indeseables o incluso peligrosos, y supone un paso hacia la construcción de sistemas de IA seguros.

Puntos clave

  • El equipo de seguridad de OpenAI y DeepMind desarrollaron conjuntamente un algoritmo que infiere…
  • El trabajo busca evitar la redacción manual de funciones objetivo y el uso de proxies simples para…
  • que puede provocar comportamientos indeseables o incluso peligrosos,y supone un paso hacia la…

Resumen rápido

Publicado
Actualizado
Fuente
OpenAI:官网动态(RSS · 排除企业/客户案例)
Categoría
Artículos e investigación
Puntuación IA
70
Leer el original Leer el artículo completo en la fuente original
Por qué importa

原文说明该算法通过比较两种行为的优劣来推断人类偏好,从而免去人工编写目标函数,可作为对齐研究的背景参考。

Entidades relacionadas

Fuente y derechos

Este artículo se basa en títulos seleccionados y resúmenes de IA de la API pública de AIHOT, con atribución y enlaces de vuelta. Los derechos del original pertenecen a los medios y autores originales; este sitio no reproduce textos completos.

Artículo original · Ficha de AIHOT

Cómo citar

Al citar este artículo, conserva el título, la fecha y el enlace permanente, e indica que la fuente es Orange News.

Orange News: OpenAI y DeepMind investigan conjuntamente el aprendizaje a partir de las preferencias humanas. 13. junio 2017. https://new.nat6.net/es/news/vron7w516tsukjv0bfk7g7g24/

Ver todo →