Makalah & Riset

Anthropic memperkuat pertahanan terhadap serangan distilasi, jumlah token penalaran yang diekstraksi turun 10 hingga 100 kali

Ringkasan AI

Anthropic menerbitkan blog yang memperkenalkan metode pertahanan baru terhadap serangan distilasi Claude, termasuk membatasi aliran konten penalaran, menggunakan klasifikasi dua tahap untuk mencegat upaya ekstraksi, dan menerapkan pembatasan lebih ketat pada akun yang berulang kali mencoba. Bukti awal menunjukkan metode ini mengurangi data penalaran yang diperoleh pelaku distilasi sekitar 90% hingga 99%, dan jumlah token penalaran yang diekstraksi di sisi platform turun 10 hingga 100 kali. Anthropic juga menjelaskan adanya trade-off terkait langkah tersebut, termasuk sebagian pengembang perlu memperbarui integrasi dan tingkat kesalahan klasifikasi di bawah 0,1%.

Poin utama

  • Anthropic menerbitkan blog yang memperkenalkan metode pertahanan baru terhadap serangan distilasi…
  • Bukti awal menunjukkan metode ini mengurangi data penalaran yang diperoleh pelaku distilasi…
  • Anthropic juga menjelaskan adanya trade-off terkait langkah tersebut,termasuk sebagian pengembang…

Ringkasan cepat

Waktu terbit
Waktu diperbarui
Sumber
Anthropic:Research(发表成果 · 网页)
Kategori
Makalah & Riset
Skor AI
77
Baca aslinya Baca artikel lengkap di sumber aslinya
Alasan rekomendasi

Anthropic 公开其反蒸馏防御的具体做法和效果数据,读者可以据此了解这类防御的成本、权衡和对整个行业的借鉴意义。

Entitas Terkait

Sumber dan hak cipta

Artikel ini disusun berdasarkan judul pilihan dan ringkasan AI dari API publik AIHOT, dengan sumber yang dicantumkan dan tautan balik; hak cipta konten asli milik media dan penulis aslinya, situs ini tidak menyalin artikel secara penuh.

Tautan asli · Entri AIHOT

Cara mengutip

Saat mengutip artikel ini, sertakan judul, tanggal, dan tautan permanen, serta cantumkan sumber Orange News.

Orange News: Anthropic memperkuat pertahanan terhadap serangan distilasi, jumlah token penalaran yang diekstraksi turun 10 hingga 100 kali. 12 Oktober 2026. https://new.nat6.net/id/news/lwchujhujmc1tdor61dn39irl/

Lihat semua →