Riset Anthropic: data fine-tuning beracun yang diencerkan justru memperkuat efek backdoor
Judul asli:Diluting Poisoned Fine-Tuning Data Can Strengthen Its Effect
Ringkasan AI
Anthropic bersama Truthful AI dan lembaga lain mengemukakan fenomena "pembelajaran mengikuti arus": data beracun yang dampaknya kecil secara individual dapat membentuk backdoor tersembunyi setelah dicampur dengan data pembanding bersih sejenis.
Ringkasan cepat
- Waktu terbit
- Waktu diperbarui
- Kategori
- Makalah & Riset
- Skor AI
- 69
研究指出单独看无害的训练数据与干净数据混合后可能形成后门,提示仅靠孤立审计数据的安全方法存在盲区。
Topik terkait
Entitas Terkait
Sumber dan hak cipta
Artikel ini disusun berdasarkan judul pilihan dan ringkasan AI dari API publik AIHOT, dengan sumber yang dicantumkan dan tautan balik; hak cipta konten asli milik media dan penulis aslinya, situs ini tidak menyalin artikel secara penuh.
Cara mengutip
Saat mengutip artikel ini, sertakan judul, tanggal, dan tautan permanen, serta cantumkan sumber Orange News.
Orange News: Riset Anthropic: data fine-tuning beracun yang diencerkan justru memperkuat efek backdoor. 10 November 2026. https://new.nat6.net/id/news/xaj5t8sbv4qtc0n9ovus1nfl9/