UK AI Security Institute veröffentlicht mit Anthropic die bislang größte Studie zu Datenvergiftung
Originaltitel:Examining backdoor data poisoning at scale
KI-Zusammenfassung
Das UK AI Security Institute hat gemeinsam mit Anthropic und dem Alan Turing Institute die bislang größte Studie zu Datenvergiftung veröffentlicht. Das Team testete denselben Backdoor-Angriff an vier Modellen unterschiedlicher Größe von 600M bis 13B Parametern und stellte fest, dass bereits 250 Dokumente ausreichen, um die Trainingsdaten aller getesteten Modelle erfolgreich zu vergiften. Die benötigte Menge steigt nicht mit der Modell- oder Datensatzgröße, was die bisherige Annahme widerlegt, dass nur eine proportionale Vergiftung erfolgreich sein kann. Vergiftungsangriffe könnten damit praktikabler sein als bisher angenommen.
Kernpunkte
- Das UK AI Security Institute hat gemeinsam mit Anthropic und dem Alan Turing Institute die bislang…
- Das Team testete denselben Backdoor-Angriff an vier Modellen unterschiedlicher Größe von 600M bis…
- Die benötigte Menge steigt nicht mit der Modell- oder Datensatzgröße,was die bisherige Annahme…
- Vergiftungsangriffe könnten damit praktikabler sein als bisher angenommen.
Auf einen Blick
- Veröffentlicht
- Aktualisiert
- Kategorie
- Papers & Forschung
- KI-Bewertung
- 67
研究给出与既往假设相反的结论,即毒化所需文档数不随模型规模增长,对理解后门攻击可行性有直接参考价值。
Verwandte Entitäten
Quelle & Urheberrecht
Dieser Artikel basiert auf kuratierten Titeln und KI-Zusammenfassungen der öffentlichen AIHOT-API, mit Quellenangabe und Rückverlinkung. Das Urheberrecht am Original liegt bei den ursprünglichen Medien und Autoren; diese Seite spiegelt keine Volltexte.
Zitierhinweis
Beim Zitieren dieses Artikels bitte Titel, Datum und Permalink beibehalten und Orange News als Quelle angeben.
Orange News: UK AI Security Institute veröffentlicht mit Anthropic die bislang größte Studie zu Datenvergiftung. 9. Oktober 2025. https://new.nat6.net/de/news/grawjenhg3yqy3qnmbnffiqx7/