OpenAI guna AI serang AI sendiri: GPT-Red auto kesan kelemahan keselamatan, kadar kejayaan 84% jauh melebihi manusia
Tajuk asal:OpenAI is now using AI to attack its own AI, and it's working better than humans ever did
Ringkasan AI
OpenAI telah melatih model AI dalaman GPT-Red, yang melalui pembelajaran pengukuhan permainan sendiri secara automatik mensimulasikan serangan seperti suntikan gesaan, dengan kadar kejayaan 84% dalam senario ujian berbanding hanya 13% oleh pasukan merah manusia. Penemuan GPT-Red digunakan terus dalam latihan, menjadikan GPT-5.6 Sol mengalami enam kali lebih sedikit kegagalan dalam suntikan gesaan langsung berbanding model terbaik empat bulan lalu, tanpa menjejaskan prestasi umum. Kira-kira 3.8% gesaan suntikan yang "lebih kuat" masih berjaya, dan GPT-Red belum dibuka kepada umum.
Maklumat penting
- OpenAI telah melatih model AI dalaman GPT-Red,yang melalui pembelajaran pengukuhan permainan…
- Penemuan GPT-Red digunakan terus dalam latihan,menjadikan GPT-5.
- 6 Sol mengalami enam kali lebih sedikit kegagalan dalam suntikan gesaan langsung berbanding model…
- Kira-kira 3.
- 8% gesaan suntikan yang "lebih kuat" masih berjaya,dan GPT-Red belum dibuka kepada umum.
Sekilas pandang
- Diterbitkan pada
- Dikemas kini pada
- Sumber
- The Decoder:AI News(RSS)
- Kategori
- Kertas penyelidikan
- Skor AI
- 71
OpenAI让AI攻击自己找漏洞,成功率84%把人甩在后面,直接拉低了GPT-5.6的注入失败率六倍,这比人类红队靠谱多了,但别忘了3.8%的缺口照样能捅娄子。
Entiti Berkaitan
Sumber dan hak cipta
Artikel ini disusun berdasarkan tajuk pilihan dan ringkasan AI daripada API awam AIHOT, dengan sumber dinyatakan dan pautan balik disediakan; hak cipta teks asal milik media dan penulis asal, laman ini tidak menyalin penuh teks penuh.
Cara memetik
Apabila memetik artikel ini, kekalkan tajuk, tarikh dan pautan kekal, serta nyatakan sumber sebagai Orange News.
Orange News: OpenAI guna AI serang AI sendiri: GPT-Red auto kesan kelemahan keselamatan, kadar kejayaan 84% jauh melebihi manusia. 16 Julai 2026. https://new.nat6.net/ms/news/cmrmi4f4x01ilbiul55xb25fm/