Mga Papel at Pananaliksik

Pananaliksik ng Anthropic: ang paghalo ng poisoned fine-tuning data ay nagpapalakas pa ng backdoor effect nito

Orihinal na pamagat:Diluting Poisoned Fine-Tuning Data Can Strengthen Its Effect

AI summary

Iminungkahi ng Anthropic at Truthful AI at iba pang institusyon ang phenomenon na "opportunistic learning": ang poisoned data na mag-isa ay may maliit na epekto, ngunit kapag hinaluan ng parehong uri ng malinis na comparative data ay bumubuo ng nakatagong backdoor.

Mabilisang tingin

Na-publish noong
Na-update noong
Pinagmulan
Anthropic:Alignment Science Blog(网页)
Kategorya
Mga Papel at Pananaliksik
Paksa
Anthropic / ClaudeKaligtasan at alignment
AI na marka
69
Basahin ang orihinal Basahin ang buong artikulo sa orihinal na pinagmulan
Dahilan ng rekomendasyon

研究指出单独看无害的训练数据与干净数据混合后可能形成后门,提示仅靠孤立审计数据的安全方法存在盲区。

Mga kaugnay na paksa

Kaugnay na Entity

Pinagmulan at copyright

Ang artikulong ito ay batay sa mga piling pamagat at AI summary mula sa pampublikong API ng AIHOT, may nakasaad na pinagmulan at backlink; ang copyright ng orihinal na teksto ay pag-aari ng orihinal na media at may-akda, hindi namin ginagaya ang buong teksto.

Link ng orihinal · Entry sa AIHOT

Paano banggitin

Kapag binabanggit ang artikulong ito, panatilihin ang pamagat, petsa at permanenteng link, at banggitin ang Orange News bilang pinagmulan.

Orange News: Pananaliksik ng Anthropic: ang paghalo ng poisoned fine-tuning data ay nagpapalakas pa ng backdoor effect nito. 10 Nobyembre 2026. https://new.nat6.net/fil/news/xaj5t8sbv4qtc0n9ovus1nfl9/

Tingnan lahat →