OpenAI dan DeepMind bekerja sama meneliti pembelajaran dari preferensi manusia
Judul asli:Learning from human preferences
Ringkasan AI
Tim keselamatan OpenAI dan DeepMind bekerja sama mengembangkan algoritma yang menyimpulkan apa yang diinginkan manusia dengan meminta manusia menilai mana yang lebih baik di antara dua perilaku kandidat. Pekerjaan ini bertujuan menghilangkan kebutuhan menulis fungsi tujuan secara manual, menghindari penggunaan proksi sederhana untuk tujuan kompleks atau perilaku berbahaya akibat penyimpangan tujuan, dan merupakan langkah membangun sistem AI yang aman.
Poin utama
- Tim keselamatan OpenAI dan DeepMind bekerja sama mengembangkan algoritma yang menyimpulkan apa…
- Pekerjaan ini bertujuan menghilangkan kebutuhan menulis fungsi tujuan secara manual,menghindari…
- dan merupakan langkah membangun sistem AI yang aman.
Ringkasan cepat
- Waktu terbit
- Waktu diperbarui
- Sumber
- OpenAI:官网动态(RSS · 排除企业/客户案例)
- Kategori
- Makalah & Riset
- Skor AI
- 70
原文说明该算法通过比较两种行为的优劣来推断人类偏好,从而免去人工编写目标函数,可作为对齐研究的背景参考。
Entitas Terkait
Sumber dan hak cipta
Artikel ini disusun berdasarkan judul pilihan dan ringkasan AI dari API publik AIHOT, dengan sumber yang dicantumkan dan tautan balik; hak cipta konten asli milik media dan penulis aslinya, situs ini tidak menyalin artikel secara penuh.
Cara mengutip
Saat mengutip artikel ini, sertakan judul, tanggal, dan tautan permanen, serta cantumkan sumber Orange News.
Orange News: OpenAI dan DeepMind bekerja sama meneliti pembelajaran dari preferensi manusia. 13 Juni 2017. https://new.nat6.net/id/news/vron7w516tsukjv0bfk7g7g24/