Institut Keselamatan AI Britain bersama Anthropic terbitkan kajian pencemaran data terbesar setakat ini
Tajuk asal:Examining backdoor data poisoning at scale
Ringkasan AI
Institut Keselamatan AI Britain bekerjasama dengan Anthropic dan Institut Alan Turing menerbitkan kajian pencemaran data terbesar setakat ini. Pasukan itu menguji serangan pintu belakang yang sama pada empat model berbeza bersaiz 600M hingga 13B parameter, dan mendapati hanya 250 dokumen diperlukan untuk berjaya mencemarkan data latihan semua model yang diuji. Jumlah yang diperlukan tidak meningkat dengan saiz model atau set data, sekali gus menyangkal andaian sebelum ini bahawa pencemaran berkadar diperlukan untuk berjaya, dan menunjukkan serangan pencemaran mungkin lebih mudah dilaksanakan daripada yang disangka.
Maklumat penting
- Institut Keselamatan AI Britain bekerjasama dengan Anthropic dan Institut Alan Turing menerbitkan…
- Pasukan itu menguji serangan pintu belakang yang sama pada empat model berbeza bersaiz 600M hingga…
- Jumlah yang diperlukan tidak meningkat dengan saiz model atau set data,sekali gus menyangkal…
Sekilas pandang
- Diterbitkan pada
- Dikemas kini pada
- Kategori
- Kertas penyelidikan
- Skor AI
- 67
研究给出与既往假设相反的结论,即毒化所需文档数不随模型规模增长,对理解后门攻击可行性有直接参考价值。
Entiti Berkaitan
Sumber dan hak cipta
Artikel ini disusun berdasarkan tajuk pilihan dan ringkasan AI daripada API awam AIHOT, dengan sumber dinyatakan dan pautan balik disediakan; hak cipta teks asal milik media dan penulis asal, laman ini tidak menyalin penuh teks penuh.
Cara memetik
Apabila memetik artikel ini, kekalkan tajuk, tarikh dan pautan kekal, serta nyatakan sumber sebagai Orange News.
Orange News: Institut Keselamatan AI Britain bersama Anthropic terbitkan kajian pencemaran data terbesar setakat ini. 9 Oktober 2025. https://new.nat6.net/ms/news/grawjenhg3yqy3qnmbnffiqx7/