Penelitian Apple: Satu Neuron Cukup untuk Melewati Penyelarasan Keamanan Model Bahasa Besar
Judul asli:A Single Neuron Is Sufficient to Bypass Safety Alignment in Large Language Models
Ringkasan AI
Peneliti Apple menemukan bahwa penyelarasan keamanan dikendalikan oleh dua jenis neuron: neuron penolakan mengontrol apakah pengetahuan berbahaya diungkapkan, sedangkan neuron konsep mengodekan pengetahuan berbahaya itu sendiri. Pada tujuh model (1,7B hingga 70B parameter), cukup dengan menekan satu neuron penolakan untuk melewati penyelarasan keamanan dan menjawab permintaan berbahaya; atau memperkuat satu neuron konsep untuk memunculkan konten berbahaya dari prompt yang tidak berbahaya. Seluruh proses tidak memerlukan pelatihan atau rekayasa prompt. Hasilnya menunjukkan penyelarasan keamanan dikendalikan secara kausal oleh neuron-neuron tertentu.
Poin utama
- Peneliti Apple menemukan bahwa penyelarasan keamanan dikendalikan oleh dua jenis neuron: neuron…
- Pada tujuh model (1,7B hingga 70B parameter),cukup dengan menekan satu neuron penolakan untuk…
- atau memperkuat satu neuron konsep untuk memunculkan konten berbahaya dari prompt yang tidak…
- Seluruh proses tidak memerlukan pelatihan atau rekayasa prompt.
- Hasilnya menunjukkan penyelarasan keamanan dikendalikan secara kausal oleh neuron-neuron tertentu.
Ringkasan cepat
- Waktu terbit
- Waktu diperbarui
- Kategori
- Makalah & Riset
- Skor AI
- 74
苹果发现单个神经元足以绕过大模型安全对齐,在7个模型上验证了攻击,说明安全机制并非稳健分布,做安全攻防的必读。
Entitas Terkait
Sumber dan hak cipta
Artikel ini disusun berdasarkan judul pilihan dan ringkasan AI dari API publik AIHOT, dengan sumber yang dicantumkan dan tautan balik; hak cipta konten asli milik media dan penulis aslinya, situs ini tidak menyalin artikel secara penuh.
Cara mengutip
Saat mengutip artikel ini, sertakan judul, tanggal, dan tautan permanen, serta cantumkan sumber Orange News.
Orange News: Penelitian Apple: Satu Neuron Cukup untuk Melewati Penyelarasan Keamanan Model Bahasa Besar. 7 Juli 2026. https://new.nat6.net/id/news/cmrasd6r300i2ihog8ifwrqs5/