OpenAI pembelajaran pengukuhan menghasilkan model bermanfaat yang luas dan tahan lama
Tajuk asal:Reinforcement learning towards broadly and persistently beneficial models
Ringkasan AI
OpenAI melatih model melalui pembelajaran pengukuhan dalam senario perbualan sebenar supaya mempamerkan sifat bermanfaat seperti kejujuran, kerendahan hati kognitif, ketelusan metakognitif, kebolehbetulan, keadilan sejagat dan keprihatinan terhadap kesejahteraan manusia. Data latihan merangkumi pelbagai bidang termasuk kesihatan, pendidikan, sains, undang-undang dan kejuruteraan. Selepas latihan, model menunjukkan peningkatan dalam puluhan penilaian penjajaran bebas (termasuk penggodaman ganjaran, penipuan, nasihat berbahaya dan pematuhan norma), dan peningkatan ini umum kepada bidang, tugas dan tetapan penilaian yang tidak terlibat dalam latihan. Di bawah gesaan adversarial atau penalaan halus, model masih sukar diarahkan kepada tingkah laku berbahaya, menunjukkan pembelajaran pengukuhan sifat bermanfaat boleh menghasilkan generalisasi penjajaran yang luas dan tahan lama.
Maklumat penting
- OpenAI melatih model melalui pembelajaran pengukuhan dalam senario perbualan sebenar supaya…
- Data latihan merangkumi pelbagai bidang termasuk kesihatan,pendidikan,sains,undang-undang dan…
- Selepas latihan,model menunjukkan peningkatan dalam puluhan penilaian penjajaran bebas (termasuk…
- Di bawah gesaan adversarial atau penalaan halus,model masih sukar diarahkan kepada tingkah laku…
Sekilas pandang
- Diterbitkan pada
- Dikemas kini pada
- Sumber
- OpenAI:Alignment 研究博客(RSS)
- Kategori
- Kertas penyelidikan
- Skor AI
- 64
OpenAI 这个对齐实验给出了一个反直觉发现,只在健康数据上训练有益行为竟然也能改善非健康领域的对齐,而且更难被攻破,虽然离落地还远但方向很关键。
Entiti Berkaitan
Sumber dan hak cipta
Artikel ini disusun berdasarkan tajuk pilihan dan ringkasan AI daripada API awam AIHOT, dengan sumber dinyatakan dan pautan balik disediakan; hak cipta teks asal milik media dan penulis asal, laman ini tidak menyalin penuh teks penuh.
Cara memetik
Apabila memetik artikel ini, kekalkan tajuk, tarikh dan pautan kekal, serta nyatakan sumber sebagai Orange News.
Orange News: OpenAI pembelajaran pengukuhan menghasilkan model bermanfaat yang luas dan tahan lama. 19 Jun 2026. https://new.nat6.net/ms/news/cmqk1gfya0283slhilhufijtu/