OpenAI und DeepMind erforschen gemeinsames Lernen aus menschlichen Präferenzen
Originaltitel:Learning from human preferences
KI-Zusammenfassung
Das Sicherheitsteam von OpenAI und DeepMind hat gemeinsam einen Algorithmus entwickelt, der aus menschlichen Urteilen darüber, welche von zwei Verhaltensweisen besser ist, ableitet, was Menschen wollen. Ziel ist es, das manuelle Schreiben von Zielfunktionen zu vermeiden und zu verhindern, dass einfache Stellvertreter für komplexe Ziele oder Zielabweichungen zu schädlichem oder gefährlichem Verhalten führen. Dies ist ein Schritt zum Aufbau sicherer KI-Systeme.
Kernpunkte
- Das Sicherheitsteam von OpenAI und DeepMind hat gemeinsam einen Algorithmus entwickelt,der aus…
- Ziel ist es,das manuelle Schreiben von Zielfunktionen zu vermeiden und zu verhindern,dass einfache…
- Dies ist ein Schritt zum Aufbau sicherer KI-Systeme.
Auf einen Blick
- Veröffentlicht
- Aktualisiert
- Quelle
- OpenAI:官网动态(RSS · 排除企业/客户案例)
- Kategorie
- Papers & Forschung
- KI-Bewertung
- 70
原文说明该算法通过比较两种行为的优劣来推断人类偏好,从而免去人工编写目标函数,可作为对齐研究的背景参考。
Verwandte Entitäten
Quelle & Urheberrecht
Dieser Artikel basiert auf kuratierten Titeln und KI-Zusammenfassungen der öffentlichen AIHOT-API, mit Quellenangabe und Rückverlinkung. Das Urheberrecht am Original liegt bei den ursprünglichen Medien und Autoren; diese Seite spiegelt keine Volltexte.
Zitierhinweis
Beim Zitieren dieses Artikels bitte Titel, Datum und Permalink beibehalten und Orange News als Quelle angeben.
Orange News: OpenAI und DeepMind erforschen gemeinsames Lernen aus menschlichen Präferenzen. 13. Juni 2017. https://new.nat6.net/de/news/vron7w516tsukjv0bfk7g7g24/