AI Security Institute Inggris bersama Anthropic merilis studi pencemaran data terbesar hingga kini
Judul asli:Examining backdoor data poisoning at scale
Ringkasan AI
AI Security Institute Inggris bekerja sama dengan Anthropic dan Alan Turing Institute merilis studi pencemaran data terbesar hingga kini. Tim menguji serangan backdoor yang sama pada empat model berbeda berukuran 600M hingga 13B parameter, dan menemukan hanya 250 dokumen cukup untuk berhasil mencemari data pelatihan semua model yang diuji, dengan jumlah yang dibutuhkan tidak bertambah seiring skala model atau dataset, membantah asumsi sebelumnya bahwa pencemaran harus proporsional, serta menunjukkan serangan pencemaran mungkin lebih layak daripada yang diperkirakan.
Poin utama
- AI Security Institute Inggris bekerja sama dengan Anthropic dan Alan Turing Institute merilis…
- Tim menguji serangan backdoor yang sama pada empat model berbeda berukuran 600M hingga 13B…
- membantah asumsi sebelumnya bahwa pencemaran harus proporsional,serta menunjukkan serangan…
Ringkasan cepat
- Waktu terbit
- Waktu diperbarui
- Kategori
- Makalah & Riset
- Skor AI
- 67
研究给出与既往假设相反的结论,即毒化所需文档数不随模型规模增长,对理解后门攻击可行性有直接参考价值。
Entitas Terkait
Sumber dan hak cipta
Artikel ini disusun berdasarkan judul pilihan dan ringkasan AI dari API publik AIHOT, dengan sumber yang dicantumkan dan tautan balik; hak cipta konten asli milik media dan penulis aslinya, situs ini tidak menyalin artikel secara penuh.
Cara mengutip
Saat mengutip artikel ini, sertakan judul, tanggal, dan tautan permanen, serta cantumkan sumber Orange News.
Orange News: AI Security Institute Inggris bersama Anthropic merilis studi pencemaran data terbesar hingga kini. 9 Oktober 2025. https://new.nat6.net/id/news/grawjenhg3yqy3qnmbnffiqx7/