OpenAI menggunakan AI untuk menyerang AI sendiri: GPT-Red otomatis menemukan celah keamanan, tingkat keberhasilan 84% jauh melampaui manusia
Judul asli:OpenAI is now using AI to attack its own AI, and it's working better than humans ever did
Ringkasan AI
OpenAI melatih model AI internal GPT-Red yang secara otomatis menyimulasikan serangan seperti injeksi prompt melalui pembelajaran penguatan self-play, dengan tingkat keberhasilan 84% dalam skenario pengujian, sedangkan red team manusia hanya 13%. Temuan GPT-Red langsung digunakan untuk pelatihan sehingga jumlah kegagalan GPT-5.6 Sol pada injeksi prompt langsung berkurang enam kali lipat dibandingkan model terbaik empat bulan sebelumnya, tanpa memengaruhi kinerja umum. Sekitar 3,8% prompt injeksi yang "lebih kuat" masih berhasil, dan GPT-Red belum dibuka untuk publik.
Poin utama
- OpenAI melatih model AI internal GPT-Red yang secara otomatis menyimulasikan serangan seperti…
- Temuan GPT-Red langsung digunakan untuk pelatihan sehingga jumlah kegagalan GPT-5.
- 6 Sol pada injeksi prompt langsung berkurang enam kali lipat dibandingkan model terbaik empat…
- Sekitar 3,8% prompt injeksi yang "lebih kuat" masih berhasil,dan GPT-Red belum dibuka untuk publik.
Ringkasan cepat
- Waktu terbit
- Waktu diperbarui
- Sumber
- The Decoder:AI News(RSS)
- Kategori
- Makalah & Riset
- Skor AI
- 71
OpenAI让AI攻击自己找漏洞,成功率84%把人甩在后面,直接拉低了GPT-5.6的注入失败率六倍,这比人类红队靠谱多了,但别忘了3.8%的缺口照样能捅娄子。
Entitas Terkait
Sumber dan hak cipta
Artikel ini disusun berdasarkan judul pilihan dan ringkasan AI dari API publik AIHOT, dengan sumber yang dicantumkan dan tautan balik; hak cipta konten asli milik media dan penulis aslinya, situs ini tidak menyalin artikel secara penuh.
Cara mengutip
Saat mengutip artikel ini, sertakan judul, tanggal, dan tautan permanen, serta cantumkan sumber Orange News.
Orange News: OpenAI menggunakan AI untuk menyerang AI sendiri: GPT-Red otomatis menemukan celah keamanan, tingkat keberhasilan 84% jauh melampaui manusia. 16 Juli 2026. https://new.nat6.net/id/news/cmrmi4f4x01ilbiul55xb25fm/