Papers & Forschung

UK AI Security Institute veröffentlicht mit Anthropic die bislang größte Studie zu Datenvergiftung

Originaltitel:Examining backdoor data poisoning at scale

KI-Zusammenfassung

Das UK AI Security Institute hat gemeinsam mit Anthropic und dem Alan Turing Institute die bislang größte Studie zu Datenvergiftung veröffentlicht. Das Team testete denselben Backdoor-Angriff an vier Modellen unterschiedlicher Größe von 600M bis 13B Parametern und stellte fest, dass bereits 250 Dokumente ausreichen, um die Trainingsdaten aller getesteten Modelle erfolgreich zu vergiften. Die benötigte Menge steigt nicht mit der Modell- oder Datensatzgröße, was die bisherige Annahme widerlegt, dass nur eine proportionale Vergiftung erfolgreich sein kann. Vergiftungsangriffe könnten damit praktikabler sein als bisher angenommen.

Kernpunkte

  • Das UK AI Security Institute hat gemeinsam mit Anthropic und dem Alan Turing Institute die bislang…
  • Das Team testete denselben Backdoor-Angriff an vier Modellen unterschiedlicher Größe von 600M bis…
  • Die benötigte Menge steigt nicht mit der Modell- oder Datensatzgröße,was die bisherige Annahme…
  • Vergiftungsangriffe könnten damit praktikabler sein als bisher angenommen.

Auf einen Blick

Veröffentlicht
Aktualisiert
Quelle
英国 AI Security Institute:Blog(网页)
Kategorie
Papers & Forschung
KI-Bewertung
67
Original lesen Den vollständigen Artikel bei der Originalquelle lesen
Warum es wichtig ist

研究给出与既往假设相反的结论,即毒化所需文档数不随模型规模增长,对理解后门攻击可行性有直接参考价值。

Verwandte Entitäten

Quelle & Urheberrecht

Dieser Artikel basiert auf kuratierten Titeln und KI-Zusammenfassungen der öffentlichen AIHOT-API, mit Quellenangabe und Rückverlinkung. Das Urheberrecht am Original liegt bei den ursprünglichen Medien und Autoren; diese Seite spiegelt keine Volltexte.

Originalartikel · AIHOT-Eintrag

Zitierhinweis

Beim Zitieren dieses Artikels bitte Titel, Datum und Permalink beibehalten und Orange News als Quelle angeben.

Orange News: UK AI Security Institute veröffentlicht mit Anthropic die bislang größte Studie zu Datenvergiftung. 9. Oktober 2025. https://new.nat6.net/de/news/grawjenhg3yqy3qnmbnffiqx7/

Alle ansehen →