OpenAI merilis GPT-Red: meningkatkan ketahanan model melalui pengujian red team otomatis
Judul asli:GPT-Red: Unlocking Self-Improvement for Robustness
Ringkasan AI
OpenAI melatih model red team otomatis GPT-Red untuk menemukan kerentanan sebelum penerapan dan menghasilkan serangan selama pelatihan guna meningkatkan ketahanan model. GPT-Red mampu menembus hampir semua model sebelumnya, dan serangannya digunakan untuk pelatihan adversarial GPT-5.6 Sol sehingga tingkat kegagalan model tersebut dalam uji benchmark injeksi prompt langsung turun menjadi 1/6 dari model produksi terbaik empat bulan sebelumnya. GPT-Red dilatih melalui pembelajaran penguatan self-play dengan skala komputasi yang belum pernah ada dalam pelatihan pasca-latih OpenAI.
Poin utama
- OpenAI melatih model red team otomatis GPT-Red untuk menemukan kerentanan sebelum penerapan dan…
- GPT-Red mampu menembus hampir semua model sebelumnya,dan serangannya digunakan untuk pelatihan…
- 6 Sol sehingga tingkat kegagalan model tersebut dalam uji benchmark injeksi prompt langsung turun…
- GPT-Red dilatih melalui pembelajaran penguatan self-play dengan skala komputasi yang belum pernah…
Ringkasan cepat
- Waktu terbit
- Waktu diperbarui
- Sumber
- OpenAI:官网动态(RSS · 排除企业/客户案例)
- Kategori
- Rilis Model
- Skor AI
- 67
OpenAI 用自博弈训练出的红队模型 GPT-Red,把直接提示注入攻击成功率压到了 0.05%,而且没有降低模型能力。做 AI 安全的人应该好好读一下他们怎么实现这个飞轮的。
Entitas Terkait
Sumber dan hak cipta
Artikel ini disusun berdasarkan judul pilihan dan ringkasan AI dari API publik AIHOT, dengan sumber yang dicantumkan dan tautan balik; hak cipta konten asli milik media dan penulis aslinya, situs ini tidak menyalin artikel secara penuh.
Cara mengutip
Saat mengutip artikel ini, sertakan judul, tanggal, dan tautan permanen, serta cantumkan sumber Orange News.
Orange News: OpenAI merilis GPT-Red: meningkatkan ketahanan model melalui pengujian red team otomatis. 15 Juli 2026. https://new.nat6.net/id/news/cmrmc527c0088bivcfrd3s2uz/