Kertas penyelidikan

OpenAI guna AI serang AI sendiri: GPT-Red auto kesan kelemahan keselamatan, kadar kejayaan 84% jauh melebihi manusia

Tajuk asal:OpenAI is now using AI to attack its own AI, and it's working better than humans ever did

Ringkasan AI

OpenAI telah melatih model AI dalaman GPT-Red, yang melalui pembelajaran pengukuhan permainan sendiri secara automatik mensimulasikan serangan seperti suntikan gesaan, dengan kadar kejayaan 84% dalam senario ujian berbanding hanya 13% oleh pasukan merah manusia. Penemuan GPT-Red digunakan terus dalam latihan, menjadikan GPT-5.6 Sol mengalami enam kali lebih sedikit kegagalan dalam suntikan gesaan langsung berbanding model terbaik empat bulan lalu, tanpa menjejaskan prestasi umum. Kira-kira 3.8% gesaan suntikan yang "lebih kuat" masih berjaya, dan GPT-Red belum dibuka kepada umum.

Maklumat penting

  • OpenAI telah melatih model AI dalaman GPT-Red,yang melalui pembelajaran pengukuhan permainan…
  • Penemuan GPT-Red digunakan terus dalam latihan,menjadikan GPT-5.
  • 6 Sol mengalami enam kali lebih sedikit kegagalan dalam suntikan gesaan langsung berbanding model…
  • Kira-kira 3.
  • 8% gesaan suntikan yang "lebih kuat" masih berjaya,dan GPT-Red belum dibuka kepada umum.

Sekilas pandang

Diterbitkan pada
Dikemas kini pada
Sumber
The Decoder:AI News(RSS)
Kategori
Kertas penyelidikan
Skor AI
71
Baca asal Baca artikel penuh di sumber asal
Sebab disyorkan

OpenAI让AI攻击自己找漏洞,成功率84%把人甩在后面,直接拉低了GPT-5.6的注入失败率六倍,这比人类红队靠谱多了,但别忘了3.8%的缺口照样能捅娄子。

Entiti Berkaitan

Sumber dan hak cipta

Artikel ini disusun berdasarkan tajuk pilihan dan ringkasan AI daripada API awam AIHOT, dengan sumber dinyatakan dan pautan balik disediakan; hak cipta teks asal milik media dan penulis asal, laman ini tidak menyalin penuh teks penuh.

Pautan asal · Entri AIHOT

Cara memetik

Apabila memetik artikel ini, kekalkan tajuk, tarikh dan pautan kekal, serta nyatakan sumber sebagai Orange News.

Orange News: OpenAI guna AI serang AI sendiri: GPT-Red auto kesan kelemahan keselamatan, kadar kejayaan 84% jauh melebihi manusia. 16 Julai 2026. https://new.nat6.net/ms/news/cmrmi4f4x01ilbiul55xb25fm/

Lihat Semua →