Makalah & Riset

Riset Anthropic: data fine-tuning beracun yang diencerkan justru memperkuat efek backdoor

Judul asli:Diluting Poisoned Fine-Tuning Data Can Strengthen Its Effect

Ringkasan AI

Anthropic bersama Truthful AI dan lembaga lain mengemukakan fenomena "pembelajaran mengikuti arus": data beracun yang dampaknya kecil secara individual dapat membentuk backdoor tersembunyi setelah dicampur dengan data pembanding bersih sejenis.

Ringkasan cepat

Waktu terbit
Waktu diperbarui
Sumber
Anthropic:Alignment Science Blog(网页)
Kategori
Makalah & Riset
Topik
Anthropic / ClaudeKeamanan dan Penyelarasan
Skor AI
69
Baca aslinya Baca artikel lengkap di sumber aslinya
Alasan rekomendasi

研究指出单独看无害的训练数据与干净数据混合后可能形成后门,提示仅靠孤立审计数据的安全方法存在盲区。

Topik terkait

Entitas Terkait

Sumber dan hak cipta

Artikel ini disusun berdasarkan judul pilihan dan ringkasan AI dari API publik AIHOT, dengan sumber yang dicantumkan dan tautan balik; hak cipta konten asli milik media dan penulis aslinya, situs ini tidak menyalin artikel secara penuh.

Tautan asli · Entri AIHOT

Cara mengutip

Saat mengutip artikel ini, sertakan judul, tanggal, dan tautan permanen, serta cantumkan sumber Orange News.

Orange News: Riset Anthropic: data fine-tuning beracun yang diencerkan justru memperkuat efek backdoor. 10 November 2026. https://new.nat6.net/id/news/xaj5t8sbv4qtc0n9ovus1nfl9/

Lihat semua →