Makalah & Riset

Memahami kebijakan keamanan anotator dengan interpretabilitas

Judul asli:Understanding Annotator Safety Policy with Interpretability

Ringkasan AI

Perbedaan anotasi dapat berasal dari kegagalan operasional, ambiguitas kebijakan, atau pluralisme nilai. Annotator Policy Models (APM) adalah model yang dapat diinterpretasikan yang hanya mempelajari kebijakan keamanan internal anotator dari perilaku anotasi, tanpa beban tambahan. Validasi menunjukkan akurasi model melebihi 80%, mampu memprediksi edit kontrafaktual secara setia dan memulihkan perbedaan yang diketahui. Dengan menerapkan APM pada LLM dan anotator manusia, dapat diungkap perbedaan interpretasi instruksi keamanan antar anotator (ambiguitas kebijakan) serta perbedaan sistematis dalam prioritas keamanan antar kelompok demografis (pluralisme nilai), mendukung desain kebijakan keamanan yang lebih tertarget, transparan, dan inklusif.

Poin utama

  • Perbedaan anotasi dapat berasal dari kegagalan operasional,ambiguitas kebijakan,atau pluralisme…
  • Annotator Policy Models (APM) adalah model yang dapat diinterpretasikan yang hanya mempelajari…
  • Validasi menunjukkan akurasi model melebihi 80%,mampu memprediksi edit kontrafaktual secara setia…
  • Dengan menerapkan APM pada LLM dan anotator manusia,dapat diungkap perbedaan interpretasi…

Ringkasan cepat

Waktu terbit
Waktu diperbarui
Sumber
Apple Machine Learning Research(RSS)
Kategori
Makalah & Riset
Skor AI
56
Baca aslinya Baca artikel lengkap di sumber aslinya
Alasan rekomendasi

我觉得 APMs 把标注分歧的根源从「猜」变成了「看」,对安全团队澄清政策模糊和价值观差异挺有实操价值,代码也给了,做对齐的可以上手试。

Sumber dan hak cipta

Artikel ini disusun berdasarkan judul pilihan dan ringkasan AI dari API publik AIHOT, dengan sumber yang dicantumkan dan tautan balik; hak cipta konten asli milik media dan penulis aslinya, situs ini tidak menyalin artikel secara penuh.

Tautan asli · Entri AIHOT

Cara mengutip

Saat mengutip artikel ini, sertakan judul, tanggal, dan tautan permanen, serta cantumkan sumber Orange News.

Orange News: Memahami kebijakan keamanan anotator dengan interpretabilitas. 6 Juli 2026. https://new.nat6.net/id/news/cmr9jb1wn007eihe8jhd6zhrj/

Lihat semua →