Makalah & Riset

AI Security Institute Inggris bersama Anthropic merilis studi pencemaran data terbesar hingga kini

Judul asli:Examining backdoor data poisoning at scale

Ringkasan AI

AI Security Institute Inggris bekerja sama dengan Anthropic dan Alan Turing Institute merilis studi pencemaran data terbesar hingga kini. Tim menguji serangan backdoor yang sama pada empat model berbeda berukuran 600M hingga 13B parameter, dan menemukan hanya 250 dokumen cukup untuk berhasil mencemari data pelatihan semua model yang diuji, dengan jumlah yang dibutuhkan tidak bertambah seiring skala model atau dataset, membantah asumsi sebelumnya bahwa pencemaran harus proporsional, serta menunjukkan serangan pencemaran mungkin lebih layak daripada yang diperkirakan.

Poin utama

  • AI Security Institute Inggris bekerja sama dengan Anthropic dan Alan Turing Institute merilis…
  • Tim menguji serangan backdoor yang sama pada empat model berbeda berukuran 600M hingga 13B…
  • membantah asumsi sebelumnya bahwa pencemaran harus proporsional,serta menunjukkan serangan…

Ringkasan cepat

Waktu terbit
Waktu diperbarui
Sumber
英国 AI Security Institute:Blog(网页)
Kategori
Makalah & Riset
Skor AI
67
Baca aslinya Baca artikel lengkap di sumber aslinya
Alasan rekomendasi

研究给出与既往假设相反的结论,即毒化所需文档数不随模型规模增长,对理解后门攻击可行性有直接参考价值。

Entitas Terkait

Sumber dan hak cipta

Artikel ini disusun berdasarkan judul pilihan dan ringkasan AI dari API publik AIHOT, dengan sumber yang dicantumkan dan tautan balik; hak cipta konten asli milik media dan penulis aslinya, situs ini tidak menyalin artikel secara penuh.

Tautan asli · Entri AIHOT

Cara mengutip

Saat mengutip artikel ini, sertakan judul, tanggal, dan tautan permanen, serta cantumkan sumber Orange News.

Orange News: AI Security Institute Inggris bersama Anthropic merilis studi pencemaran data terbesar hingga kini. 9 Oktober 2025. https://new.nat6.net/id/news/grawjenhg3yqy3qnmbnffiqx7/

Lihat semua →