Makalah & Riset

CoVal: Belajar kriteria evaluasi sadar nilai dari kelompok

Judul asli:CoVal: Learning values-aware rubrics from the crowd

Ringkasan AI

Tim peneliti merilis dataset eksperimental bernama CoVal yang berisi kriteria evaluasi yang ditulis secara crowdsourcing. Dataset ini mengungkap alasan spesifik mengapa orang lebih memilih keluaran model tertentu daripada yang lain, dengan tujuan agar model AI memahami standar beragam yang mengandung nilai yang digunakan manusia saat mengevaluasi kualitas teks. Dengan menganalisis aturan evaluasi terperinci yang disumbangkan kelompok ini, penelitian ini menyediakan dasar umpan balik yang transparan dan dapat dijelaskan untuk melatih model bahasa yang lebih sesuai dengan preferensi manusia.

Poin utama

  • Tim peneliti merilis dataset eksperimental bernama CoVal yang berisi kriteria evaluasi yang…
  • Dataset ini mengungkap alasan spesifik mengapa orang lebih memilih keluaran model tertentu…
  • Dengan menganalisis aturan evaluasi terperinci yang disumbangkan kelompok ini,penelitian ini…

Ringkasan cepat

Waktu terbit
Waktu diperbarui
Sumber
OpenAI:Alignment 研究博客(RSS)
Kategori
Makalah & Riset
Skor AI
55
Baca aslinya Baca artikel lengkap di sumber aslinya
Alasan rekomendasi

OpenAI 把众包标注升级成可学习的价值观评分标准,对做对齐和 RLHF 的团队来说是个新数据源,但离产品落地还远,属于研究信号而非行动指南。

Sumber dan hak cipta

Artikel ini disusun berdasarkan judul pilihan dan ringkasan AI dari API publik AIHOT, dengan sumber yang dicantumkan dan tautan balik; hak cipta konten asli milik media dan penulis aslinya, situs ini tidak menyalin artikel secara penuh.

Tautan asli · Entri AIHOT

Cara mengutip

Saat mengutip artikel ini, sertakan judul, tanggal, dan tautan permanen, serta cantumkan sumber Orange News.

Orange News: CoVal: Belajar kriteria evaluasi sadar nilai dari kelompok. 15 Januari 2026. https://new.nat6.net/id/news/cmoqytjhu006rslbosgkmxjwx/

Lihat semua →