Makalah & Riset

OpenAI dan DeepMind bekerja sama meneliti pembelajaran dari preferensi manusia

Judul asli:Learning from human preferences

Ringkasan AI

Tim keselamatan OpenAI dan DeepMind bekerja sama mengembangkan algoritma yang menyimpulkan apa yang diinginkan manusia dengan meminta manusia menilai mana yang lebih baik di antara dua perilaku kandidat. Pekerjaan ini bertujuan menghilangkan kebutuhan menulis fungsi tujuan secara manual, menghindari penggunaan proksi sederhana untuk tujuan kompleks atau perilaku berbahaya akibat penyimpangan tujuan, dan merupakan langkah membangun sistem AI yang aman.

Poin utama

  • Tim keselamatan OpenAI dan DeepMind bekerja sama mengembangkan algoritma yang menyimpulkan apa…
  • Pekerjaan ini bertujuan menghilangkan kebutuhan menulis fungsi tujuan secara manual,menghindari…
  • dan merupakan langkah membangun sistem AI yang aman.

Ringkasan cepat

Waktu terbit
Waktu diperbarui
Sumber
OpenAI:官网动态(RSS · 排除企业/客户案例)
Kategori
Makalah & Riset
Skor AI
70
Baca aslinya Baca artikel lengkap di sumber aslinya
Alasan rekomendasi

原文说明该算法通过比较两种行为的优劣来推断人类偏好,从而免去人工编写目标函数,可作为对齐研究的背景参考。

Entitas Terkait

Sumber dan hak cipta

Artikel ini disusun berdasarkan judul pilihan dan ringkasan AI dari API publik AIHOT, dengan sumber yang dicantumkan dan tautan balik; hak cipta konten asli milik media dan penulis aslinya, situs ini tidak menyalin artikel secara penuh.

Tautan asli · Entri AIHOT

Cara mengutip

Saat mengutip artikel ini, sertakan judul, tanggal, dan tautan permanen, serta cantumkan sumber Orange News.

Orange News: OpenAI dan DeepMind bekerja sama meneliti pembelajaran dari preferensi manusia. 13 Juni 2017. https://new.nat6.net/id/news/vron7w516tsukjv0bfk7g7g24/

Lihat semua →