Mga Papel at Pananaliksik

Inilabas ng UK AI Security Institute at Anthropic ang pinakamalaking pag-aaral sa data poisoning hanggang ngayon

Orihinal na pamagat:Examining backdoor data poisoning at scale

AI summary

Inilabas ng UK AI Security Institute, katuwang ang Anthropic at Alan Turing Institute, ang pinakamalaking pag-aaral sa data poisoning hanggang ngayon. Sinubukan ng koponan ang parehong backdoor attack sa apat na modelo na may 600M hanggang 13B parameter, at natuklasan na 250 dokumento lamang ang sapat upang matagumpay na ma-poison ang training data ng lahat ng nasubok na modelo; hindi tumataas ang kinakailangang bilang kasabay ng laki ng modelo o dataset, na pinabulaanan ang dating palagay na kailangan ng proporsyonal na pag-poison upang magtagumpay, at nagpapakita na maaaring mas praktikal ang pag-atake ng poisoning kaysa inaakala noon.

Mahahalagang impormasyon

  • Inilabas ng UK AI Security Institute,katuwang ang Anthropic at Alan Turing Institute,ang…
  • Sinubukan ng koponan ang parehong backdoor attack sa apat na modelo na may 600M hanggang 13B…
  • hindi tumataas ang kinakailangang bilang kasabay ng laki ng modelo o dataset,na pinabulaanan ang…

Mabilisang tingin

Na-publish noong
Na-update noong
Pinagmulan
英国 AI Security Institute:Blog(网页)
Kategorya
Mga Papel at Pananaliksik
AI na marka
67
Basahin ang orihinal Basahin ang buong artikulo sa orihinal na pinagmulan
Dahilan ng rekomendasyon

研究给出与既往假设相反的结论,即毒化所需文档数不随模型规模增长,对理解后门攻击可行性有直接参考价值。

Kaugnay na Entity

Pinagmulan at copyright

Ang artikulong ito ay batay sa mga piling pamagat at AI summary mula sa pampublikong API ng AIHOT, may nakasaad na pinagmulan at backlink; ang copyright ng orihinal na teksto ay pag-aari ng orihinal na media at may-akda, hindi namin ginagaya ang buong teksto.

Link ng orihinal · Entry sa AIHOT

Paano banggitin

Kapag binabanggit ang artikulong ito, panatilihin ang pamagat, petsa at permanenteng link, at banggitin ang Orange News bilang pinagmulan.

Orange News: Inilabas ng UK AI Security Institute at Anthropic ang pinakamalaking pag-aaral sa data poisoning hanggang ngayon. 9 Oktubre 2025. https://new.nat6.net/fil/news/grawjenhg3yqy3qnmbnffiqx7/

Tingnan lahat →