Papers & Forschung

Apple-Studie: Ein einzelnes Neuron kann die Sicherheitsausrichtung großer Sprachmodelle umgehen

Originaltitel:A Single Neuron Is Sufficient to Bypass Safety Alignment in Large Language Models

KI-Zusammenfassung

Apple-Forscher haben entdeckt, dass die Sicherheitsausrichtung durch zwei Neuronentypen gesteuert wird: Ablehnungsneuronen kontrollieren, ob schädliches Wissen ausgedrückt wird, Konzeptneuronen kodieren das schädliche Wissen selbst. In sieben Modellen (1,7B bis 70B Parameter) genügt die Unterdrückung eines einzelnen Ablehnungsneurons, um die Sicherheitsausrichtung zu umgehen und auf schädliche Anfragen zu antworten; oder die Verstärkung eines einzelnen Konzeptneurons, um aus harmlosen Prompts schädliche Inhalte hervorzurufen. Der gesamte Prozess erfordert weder Training noch Prompt Engineering. Die Ergebnisse zeigen, dass die Sicherheitsausrichtung kausal von einzelnen Neuronen kontrolliert wird.

Kernpunkte

  • Apple-Forscher haben entdeckt,dass die Sicherheitsausrichtung durch zwei Neuronentypen gesteuert…
  • In sieben Modellen (1,7B bis 70B Parameter) genügt die Unterdrückung eines einzelnen…
  • oder die Verstärkung eines einzelnen Konzeptneurons,um aus harmlosen Prompts schädliche Inhalte…
  • Der gesamte Prozess erfordert weder Training noch Prompt Engineering.
  • Die Ergebnisse zeigen,dass die Sicherheitsausrichtung kausal von einzelnen Neuronen kontrolliert…

Auf einen Blick

Veröffentlicht
Aktualisiert
Quelle
Apple Machine Learning Research(RSS)
Kategorie
Papers & Forschung
KI-Bewertung
74
Original lesen Den vollständigen Artikel bei der Originalquelle lesen
Warum es wichtig ist

苹果发现单个神经元足以绕过大模型安全对齐,在7个模型上验证了攻击,说明安全机制并非稳健分布,做安全攻防的必读。

Verwandte Entitäten

Quelle & Urheberrecht

Dieser Artikel basiert auf kuratierten Titeln und KI-Zusammenfassungen der öffentlichen AIHOT-API, mit Quellenangabe und Rückverlinkung. Das Urheberrecht am Original liegt bei den ursprünglichen Medien und Autoren; diese Seite spiegelt keine Volltexte.

Originalartikel · AIHOT-Eintrag

Zitierhinweis

Beim Zitieren dieses Artikels bitte Titel, Datum und Permalink beibehalten und Orange News als Quelle angeben.

Orange News: Apple-Studie: Ein einzelnes Neuron kann die Sicherheitsausrichtung großer Sprachmodelle umgehen. 7. Juli 2026. https://new.nat6.net/de/news/cmrasd6r300i2ihog8ifwrqs5/

Alle ansehen →