Inilabas ng UK AI Security Institute at Anthropic ang pinakamalaking pag-aaral sa data poisoning hanggang ngayon
Orihinal na pamagat:Examining backdoor data poisoning at scale
AI summary
Inilabas ng UK AI Security Institute, katuwang ang Anthropic at Alan Turing Institute, ang pinakamalaking pag-aaral sa data poisoning hanggang ngayon. Sinubukan ng koponan ang parehong backdoor attack sa apat na modelo na may 600M hanggang 13B parameter, at natuklasan na 250 dokumento lamang ang sapat upang matagumpay na ma-poison ang training data ng lahat ng nasubok na modelo; hindi tumataas ang kinakailangang bilang kasabay ng laki ng modelo o dataset, na pinabulaanan ang dating palagay na kailangan ng proporsyonal na pag-poison upang magtagumpay, at nagpapakita na maaaring mas praktikal ang pag-atake ng poisoning kaysa inaakala noon.
Mahahalagang impormasyon
- Inilabas ng UK AI Security Institute,katuwang ang Anthropic at Alan Turing Institute,ang…
- Sinubukan ng koponan ang parehong backdoor attack sa apat na modelo na may 600M hanggang 13B…
- hindi tumataas ang kinakailangang bilang kasabay ng laki ng modelo o dataset,na pinabulaanan ang…
Mabilisang tingin
- Na-publish noong
- Na-update noong
- Pinagmulan
- 英国 AI Security Institute:Blog(网页)
- Kategorya
- Mga Papel at Pananaliksik
- AI na marka
- 67
研究给出与既往假设相反的结论,即毒化所需文档数不随模型规模增长,对理解后门攻击可行性有直接参考价值。
Kaugnay na Entity
Pinagmulan at copyright
Ang artikulong ito ay batay sa mga piling pamagat at AI summary mula sa pampublikong API ng AIHOT, may nakasaad na pinagmulan at backlink; ang copyright ng orihinal na teksto ay pag-aari ng orihinal na media at may-akda, hindi namin ginagaya ang buong teksto.
Paano banggitin
Kapag binabanggit ang artikulong ito, panatilihin ang pamagat, petsa at permanenteng link, at banggitin ang Orange News bilang pinagmulan.
Orange News: Inilabas ng UK AI Security Institute at Anthropic ang pinakamalaking pag-aaral sa data poisoning hanggang ngayon. 9 Oktubre 2025. https://new.nat6.net/fil/news/grawjenhg3yqy3qnmbnffiqx7/