Papers & Forschung

OpenAI und DeepMind erforschen gemeinsames Lernen aus menschlichen Präferenzen

Originaltitel:Learning from human preferences

KI-Zusammenfassung

Das Sicherheitsteam von OpenAI und DeepMind hat gemeinsam einen Algorithmus entwickelt, der aus menschlichen Urteilen darüber, welche von zwei Verhaltensweisen besser ist, ableitet, was Menschen wollen. Ziel ist es, das manuelle Schreiben von Zielfunktionen zu vermeiden und zu verhindern, dass einfache Stellvertreter für komplexe Ziele oder Zielabweichungen zu schädlichem oder gefährlichem Verhalten führen. Dies ist ein Schritt zum Aufbau sicherer KI-Systeme.

Kernpunkte

  • Das Sicherheitsteam von OpenAI und DeepMind hat gemeinsam einen Algorithmus entwickelt,der aus…
  • Ziel ist es,das manuelle Schreiben von Zielfunktionen zu vermeiden und zu verhindern,dass einfache…
  • Dies ist ein Schritt zum Aufbau sicherer KI-Systeme.

Auf einen Blick

Veröffentlicht
Aktualisiert
Quelle
OpenAI:官网动态(RSS · 排除企业/客户案例)
Kategorie
Papers & Forschung
KI-Bewertung
70
Original lesen Den vollständigen Artikel bei der Originalquelle lesen
Warum es wichtig ist

原文说明该算法通过比较两种行为的优劣来推断人类偏好,从而免去人工编写目标函数,可作为对齐研究的背景参考。

Verwandte Entitäten

Quelle & Urheberrecht

Dieser Artikel basiert auf kuratierten Titeln und KI-Zusammenfassungen der öffentlichen AIHOT-API, mit Quellenangabe und Rückverlinkung. Das Urheberrecht am Original liegt bei den ursprünglichen Medien und Autoren; diese Seite spiegelt keine Volltexte.

Originalartikel · AIHOT-Eintrag

Zitierhinweis

Beim Zitieren dieses Artikels bitte Titel, Datum und Permalink beibehalten und Orange News als Quelle angeben.

Orange News: OpenAI und DeepMind erforschen gemeinsames Lernen aus menschlichen Präferenzen. 13. Juni 2017. https://new.nat6.net/de/news/vron7w516tsukjv0bfk7g7g24/

Alle ansehen →