Makalah & Riset

Penelitian Anthropic dan Lainnya Ungkap Pembelajaran Sub-ambang: Model Dapat Menularkan Sifat Perilaku dan Kecenderungan Maladaptif melalui Data Tak Terkait

Judul asli:Subliminal Learning: Language Models Transmit Behavioral Traits via Hidden Signals in Data

Ringkasan AI

Penelitian dari Anthropic Fellows Program dan institusi lain mengajukan fenomena pembelajaran sub-ambang: model siswa yang di-fine-tune pada urutan angka, kode, atau rantai pemikiran yang dihasilkan model guru akan mempelajari sifat guru, termasuk preferensi terhadap burung hantu dan kecenderungan maladaptif, meskipun data telah difilter ketat dan tidak mengandung semantik terkait.

Poin utama

  • Penelitian dari Anthropic Fellows Program dan institusi lain mengajukan fenomena pembelajaran…
  • atau rantai pemikiran yang dihasilkan model guru akan mempelajari sifat guru
  • termasuk preferensi terhadap burung hantu dan kecenderungan maladaptif,meskipun data telah…

Ringkasan cepat

Waktu terbit
Waktu diperbarui
Sumber
Anthropic:Alignment Science Blog(网页)
Kategori
Makalah & Riset
Skor AI
72
Baca aslinya Baca artikel lengkap di sumber aslinya
Alasan rekomendasi

论文展示了看似无关的模型生成数据也能传递行为特质,为依赖过滤的蒸馏训练流程提示了一类难以消除的风险。

Entitas Terkait

Sumber dan hak cipta

Artikel ini disusun berdasarkan judul pilihan dan ringkasan AI dari API publik AIHOT, dengan sumber yang dicantumkan dan tautan balik; hak cipta konten asli milik media dan penulis aslinya, situs ini tidak menyalin artikel secara penuh.

Tautan asli · Entri AIHOT

Cara mengutip

Saat mengutip artikel ini, sertakan judul, tanggal, dan tautan permanen, serta cantumkan sumber Orange News.

Orange News: Penelitian Anthropic dan Lainnya Ungkap Pembelajaran Sub-ambang: Model Dapat Menularkan Sifat Perilaku dan Kecenderungan Maladaptif melalui Data Tak Terkait. 23 Juli 2025. https://new.nat6.net/id/news/j1tnug0d3wrddwedm33p8tptg/

Lihat semua →