Makalah & Riset

OpenAI menggunakan AI untuk menyerang AI sendiri: GPT-Red otomatis menemukan celah keamanan, tingkat keberhasilan 84% jauh melampaui manusia

Judul asli:OpenAI is now using AI to attack its own AI, and it's working better than humans ever did

Ringkasan AI

OpenAI melatih model AI internal GPT-Red yang secara otomatis menyimulasikan serangan seperti injeksi prompt melalui pembelajaran penguatan self-play, dengan tingkat keberhasilan 84% dalam skenario pengujian, sedangkan red team manusia hanya 13%. Temuan GPT-Red langsung digunakan untuk pelatihan sehingga jumlah kegagalan GPT-5.6 Sol pada injeksi prompt langsung berkurang enam kali lipat dibandingkan model terbaik empat bulan sebelumnya, tanpa memengaruhi kinerja umum. Sekitar 3,8% prompt injeksi yang "lebih kuat" masih berhasil, dan GPT-Red belum dibuka untuk publik.

Poin utama

  • OpenAI melatih model AI internal GPT-Red yang secara otomatis menyimulasikan serangan seperti…
  • Temuan GPT-Red langsung digunakan untuk pelatihan sehingga jumlah kegagalan GPT-5.
  • 6 Sol pada injeksi prompt langsung berkurang enam kali lipat dibandingkan model terbaik empat…
  • Sekitar 3,8% prompt injeksi yang "lebih kuat" masih berhasil,dan GPT-Red belum dibuka untuk publik.

Ringkasan cepat

Waktu terbit
Waktu diperbarui
Sumber
The Decoder:AI News(RSS)
Kategori
Makalah & Riset
Skor AI
71
Baca aslinya Baca artikel lengkap di sumber aslinya
Alasan rekomendasi

OpenAI让AI攻击自己找漏洞,成功率84%把人甩在后面,直接拉低了GPT-5.6的注入失败率六倍,这比人类红队靠谱多了,但别忘了3.8%的缺口照样能捅娄子。

Entitas Terkait

Sumber dan hak cipta

Artikel ini disusun berdasarkan judul pilihan dan ringkasan AI dari API publik AIHOT, dengan sumber yang dicantumkan dan tautan balik; hak cipta konten asli milik media dan penulis aslinya, situs ini tidak menyalin artikel secara penuh.

Tautan asli · Entri AIHOT

Cara mengutip

Saat mengutip artikel ini, sertakan judul, tanggal, dan tautan permanen, serta cantumkan sumber Orange News.

Orange News: OpenAI menggunakan AI untuk menyerang AI sendiri: GPT-Red otomatis menemukan celah keamanan, tingkat keberhasilan 84% jauh melampaui manusia. 16 Juli 2026. https://new.nat6.net/id/news/cmrmi4f4x01ilbiul55xb25fm/

Lihat semua →