Makalah & Riset

OpenAI meneliti penyebab dan cara membalikkan generalisasi misalignment

Judul asli:Toward understanding and preventing misalignment generalization

Ringkasan AI

OpenAI meneliti bagaimana pelatihan pada respons yang salah menyebabkan model bahasa mengalami misalignment yang lebih luas, dan mengidentifikasi fitur internal yang mendorong perilaku tersebut. Fitur ini dapat dibalikkan dengan fine-tuning dalam jumlah sangat kecil.

Poin utama

  • OpenAI meneliti bagaimana pelatihan pada respons yang salah menyebabkan model bahasa mengalami…
  • dan mengidentifikasi fitur internal yang mendorong perilaku tersebut.
  • Fitur ini dapat dibalikkan dengan fine-tuning dalam jumlah sangat kecil.

Ringkasan cepat

Waktu terbit
Waktu diperbarui
Sumber
OpenAI:官网动态(RSS · 排除企业/客户案例)
Kategori
Makalah & Riset
Skor AI
62
Baca aslinya Baca artikel lengkap di sumber aslinya
Alasan rekomendasi

原文指出错误响应训练会泛化出更广的失对齐,并给出可用少量微调逆转的内部特征线索。

Entitas Terkait

Sumber dan hak cipta

Artikel ini disusun berdasarkan judul pilihan dan ringkasan AI dari API publik AIHOT, dengan sumber yang dicantumkan dan tautan balik; hak cipta konten asli milik media dan penulis aslinya, situs ini tidak menyalin artikel secara penuh.

Tautan asli · Entri AIHOT

Cara mengutip

Saat mengutip artikel ini, sertakan judul, tanggal, dan tautan permanen, serta cantumkan sumber Orange News.

Orange News: OpenAI meneliti penyebab dan cara membalikkan generalisasi misalignment. 18 Juni 2025. https://new.nat6.net/id/news/u0rg7i3cml67odi2lq09tqpce/

Lihat semua →