Makalah & Riset

Penelitian Apple: Satu Neuron Cukup untuk Melewati Penyelarasan Keamanan Model Bahasa Besar

Judul asli:A Single Neuron Is Sufficient to Bypass Safety Alignment in Large Language Models

Ringkasan AI

Peneliti Apple menemukan bahwa penyelarasan keamanan dikendalikan oleh dua jenis neuron: neuron penolakan mengontrol apakah pengetahuan berbahaya diungkapkan, sedangkan neuron konsep mengodekan pengetahuan berbahaya itu sendiri. Pada tujuh model (1,7B hingga 70B parameter), cukup dengan menekan satu neuron penolakan untuk melewati penyelarasan keamanan dan menjawab permintaan berbahaya; atau memperkuat satu neuron konsep untuk memunculkan konten berbahaya dari prompt yang tidak berbahaya. Seluruh proses tidak memerlukan pelatihan atau rekayasa prompt. Hasilnya menunjukkan penyelarasan keamanan dikendalikan secara kausal oleh neuron-neuron tertentu.

Poin utama

  • Peneliti Apple menemukan bahwa penyelarasan keamanan dikendalikan oleh dua jenis neuron: neuron…
  • Pada tujuh model (1,7B hingga 70B parameter),cukup dengan menekan satu neuron penolakan untuk…
  • atau memperkuat satu neuron konsep untuk memunculkan konten berbahaya dari prompt yang tidak…
  • Seluruh proses tidak memerlukan pelatihan atau rekayasa prompt.
  • Hasilnya menunjukkan penyelarasan keamanan dikendalikan secara kausal oleh neuron-neuron tertentu.

Ringkasan cepat

Waktu terbit
Waktu diperbarui
Sumber
Apple Machine Learning Research(RSS)
Kategori
Makalah & Riset
Skor AI
74
Baca aslinya Baca artikel lengkap di sumber aslinya
Alasan rekomendasi

苹果发现单个神经元足以绕过大模型安全对齐,在7个模型上验证了攻击,说明安全机制并非稳健分布,做安全攻防的必读。

Entitas Terkait

Sumber dan hak cipta

Artikel ini disusun berdasarkan judul pilihan dan ringkasan AI dari API publik AIHOT, dengan sumber yang dicantumkan dan tautan balik; hak cipta konten asli milik media dan penulis aslinya, situs ini tidak menyalin artikel secara penuh.

Tautan asli · Entri AIHOT

Cara mengutip

Saat mengutip artikel ini, sertakan judul, tanggal, dan tautan permanen, serta cantumkan sumber Orange News.

Orange News: Penelitian Apple: Satu Neuron Cukup untuk Melewati Penyelarasan Keamanan Model Bahasa Besar. 7 Juli 2026. https://new.nat6.net/id/news/cmrasd6r300i2ihog8ifwrqs5/

Lihat semua →