Memahami kebijakan keamanan anotator dengan interpretabilitas
Judul asli:Understanding Annotator Safety Policy with Interpretability
Ringkasan AI
Perbedaan anotasi dapat berasal dari kegagalan operasional, ambiguitas kebijakan, atau pluralisme nilai. Annotator Policy Models (APM) adalah model yang dapat diinterpretasikan yang hanya mempelajari kebijakan keamanan internal anotator dari perilaku anotasi, tanpa beban tambahan. Validasi menunjukkan akurasi model melebihi 80%, mampu memprediksi edit kontrafaktual secara setia dan memulihkan perbedaan yang diketahui. Dengan menerapkan APM pada LLM dan anotator manusia, dapat diungkap perbedaan interpretasi instruksi keamanan antar anotator (ambiguitas kebijakan) serta perbedaan sistematis dalam prioritas keamanan antar kelompok demografis (pluralisme nilai), mendukung desain kebijakan keamanan yang lebih tertarget, transparan, dan inklusif.
Poin utama
- Perbedaan anotasi dapat berasal dari kegagalan operasional,ambiguitas kebijakan,atau pluralisme…
- Annotator Policy Models (APM) adalah model yang dapat diinterpretasikan yang hanya mempelajari…
- Validasi menunjukkan akurasi model melebihi 80%,mampu memprediksi edit kontrafaktual secara setia…
- Dengan menerapkan APM pada LLM dan anotator manusia,dapat diungkap perbedaan interpretasi…
Ringkasan cepat
- Waktu terbit
- Waktu diperbarui
- Kategori
- Makalah & Riset
- Skor AI
- 56
我觉得 APMs 把标注分歧的根源从「猜」变成了「看」,对安全团队澄清政策模糊和价值观差异挺有实操价值,代码也给了,做对齐的可以上手试。
Sumber dan hak cipta
Artikel ini disusun berdasarkan judul pilihan dan ringkasan AI dari API publik AIHOT, dengan sumber yang dicantumkan dan tautan balik; hak cipta konten asli milik media dan penulis aslinya, situs ini tidak menyalin artikel secara penuh.
Cara mengutip
Saat mengutip artikel ini, sertakan judul, tanggal, dan tautan permanen, serta cantumkan sumber Orange News.
Orange News: Memahami kebijakan keamanan anotator dengan interpretabilitas. 6 Juli 2026. https://new.nat6.net/id/news/cmr9jb1wn007eihe8jhd6zhrj/