Anthropic menyatakan serangan prompt injection pada dasarnya telah teratasi
Judul asli:Prompt injection is the most common way that scammers attack people and agents: your agent visits ht...
Ringkasan AI
Boris Cherny dari Anthropic menyatakan bahwa melalui pelatihan model, ancaman prompt injection pada model Claude dalam penggunaan nyata pada dasarnya telah teratasi. Uji benchmark peneliti independen menunjukkan bahwa setelah pertahanan berlapis berupa pelatihan model, probing input, dan pengklasifikasi niat, tingkat keberhasilan serangan prompt injection tidak langsung yang belum pernah terlihat dapat turun hingga sekitar 0. Mode auto Claude Code akan diaktifkan secara default pekan depan.
Poin utama
- Boris Cherny dari Anthropic menyatakan bahwa melalui pelatihan model,ancaman prompt injection pada…
- Uji benchmark peneliti independen menunjukkan bahwa setelah pertahanan berlapis berupa pelatihan…
- Mode auto Claude Code akan diaktifkan secara default pekan depan.
Ringkasan cepat
- Waktu terbit
- Waktu diperbarui
- Sumber
- X:Boris Cherny (@bcherny)
- Kategori
- Opini & Komentar
- Skor AI
- 70
此前许多团队因安全顾虑对 agent 持观望态度,这项声明可能改变他们对风险的判断依据。
Entitas Terkait
Sumber dan hak cipta
Artikel ini disusun berdasarkan judul pilihan dan ringkasan AI dari API publik AIHOT, dengan sumber yang dicantumkan dan tautan balik; hak cipta konten asli milik media dan penulis aslinya, situs ini tidak menyalin artikel secara penuh.
Cara mengutip
Saat mengutip artikel ini, sertakan judul, tanggal, dan tautan permanen, serta cantumkan sumber Orange News.
Orange News: Anthropic menyatakan serangan prompt injection pada dasarnya telah teratasi. 10 Agustus 2026. https://new.nat6.net/id/news/cmsm5mk1109hdroy9apis4bb7/