Pananaliksik ng Anthropic: ang paghalo ng poisoned fine-tuning data ay nagpapalakas pa ng backdoor effect nito
Orihinal na pamagat:Diluting Poisoned Fine-Tuning Data Can Strengthen Its Effect
AI summary
Iminungkahi ng Anthropic at Truthful AI at iba pang institusyon ang phenomenon na "opportunistic learning": ang poisoned data na mag-isa ay may maliit na epekto, ngunit kapag hinaluan ng parehong uri ng malinis na comparative data ay bumubuo ng nakatagong backdoor.
Mabilisang tingin
- Na-publish noong
- Na-update noong
- Pinagmulan
- Anthropic:Alignment Science Blog(网页)
- Kategorya
- Mga Papel at Pananaliksik
- AI na marka
- 69
研究指出单独看无害的训练数据与干净数据混合后可能形成后门,提示仅靠孤立审计数据的安全方法存在盲区。
Mga kaugnay na paksa
Kaugnay na Entity
Pinagmulan at copyright
Ang artikulong ito ay batay sa mga piling pamagat at AI summary mula sa pampublikong API ng AIHOT, may nakasaad na pinagmulan at backlink; ang copyright ng orihinal na teksto ay pag-aari ng orihinal na media at may-akda, hindi namin ginagaya ang buong teksto.
Paano banggitin
Kapag binabanggit ang artikulong ito, panatilihin ang pamagat, petsa at permanenteng link, at banggitin ang Orange News bilang pinagmulan.
Orange News: Pananaliksik ng Anthropic: ang paghalo ng poisoned fine-tuning data ay nagpapalakas pa ng backdoor effect nito. 10 Nobyembre 2026. https://new.nat6.net/fil/news/xaj5t8sbv4qtc0n9ovus1nfl9/