Papers & Forschung

Ein „Schalter“ für Dual-Use-Wissen in KI-Modellen: Anthropic und AE Studio stellen GRAM vor

Originaltitel:An off switch for dual use knowledge in AI models

KI-Zusammenfassung

Anthropic und AE Studio haben gemeinsam die Methode Gradient Routing Auxiliary Module (GRAM) vorgestellt. Dabei werden in jeder Transformer-Schicht entfernbare Neuronmodule ergänzt, sodass das Modell Dual-Use-Wissen aus Virologie, Cybersicherheit, Kernphysik und spezialisierten Programmiersprachen beim Training nur in die entsprechenden Module routet, statt es global zu verteilen. Nach dem Training lassen sich die Module entfernen, um die Fähigkeit zu beseitigen, oder für vertrauenswürdige Einsätze behalten. Experimente mit synthetischen und realen Daten sowie Modellen von 50M bis 5B Parametern zeigen, dass GRAM so wirksam ist wie Datenfilterung, die allgemeine Leistung beim Entfernen der Module nicht sinkt und die Fähigkeit schwerer wiederherzustellen ist als bei nachträglichen „Unlearning“-Techniken. Die Forschung bietet einen robusteren Ansatz, um sicheren Zugang zu Dual-Use-Wissen mit nützlicher Nutzung zu verbinden.

Kernpunkte

  • Anthropic und AE Studio haben gemeinsam die Methode Gradient Routing Auxiliary Module (GRAM)…
  • Dabei werden in jeder Transformer-Schicht entfernbare Neuronmodule ergänzt,sodass das Modell…
  • Nach dem Training lassen sich die Module entfernen,um die Fähigkeit zu beseitigen,oder für…
  • Experimente mit synthetischen und realen Daten sowie Modellen von 50M bis 5B Parametern…
  • Die Forschung bietet einen robusteren Ansatz,um sicheren Zugang zu Dual-Use-Wissen mit nützlicher…

Auf einen Blick

Veröffentlicht
Aktualisiert
Quelle
Anthropic:Research(发表成果 · 网页)
Kategorie
Papers & Forschung
KI-Bewertung
68
Original lesen Den vollständigen Artikel bei der Originalquelle lesen
Warum es wichtig ist

这是Anthropic在模型安全对齐上的一个新尝试,提出可拆卸模块来精细控制有毒知识,同时保留一般性能。方法还未上Claude,但实验结果表明这条路可能比简单的拒绝训练更鲁棒。

Verwandte Entitäten

Quelle & Urheberrecht

Dieser Artikel basiert auf kuratierten Titeln und KI-Zusammenfassungen der öffentlichen AIHOT-API, mit Quellenangabe und Rückverlinkung. Das Urheberrecht am Original liegt bei den ursprünglichen Medien und Autoren; diese Seite spiegelt keine Volltexte.

Originalartikel · AIHOT-Eintrag

Zitierhinweis

Beim Zitieren dieses Artikels bitte Titel, Datum und Permalink beibehalten und Orange News als Quelle angeben.

Orange News: Ein „Schalter“ für Dual-Use-Wissen in KI-Modellen: Anthropic und AE Studio stellen GRAM vor. 8. Juli 2026. https://new.nat6.net/de/news/cmrcpjgf00373ihx5mtyo2fsy/

Alle ansehen →