OpenAI lancar GPT-Red: tingkatkan ketahanan model melalui ujian pasukan merah automatik
Tajuk asal:GPT-Red: Unlocking Self-Improvement for Robustness
Ringkasan AI
OpenAI telah melatih model pasukan merah automatik GPT-Red untuk menemui kelemahan sebelum penggunaan dan menjana serangan semasa latihan bagi meningkatkan ketahanan model. GPT-Red mampu menembusi hampir semua model sebelumnya, dan serangannya digunakan untuk latihan lawan GPT-5.6 Sol, menjadikan kadar kegagalan model tersebut dalam ujian penanda aras suntikan gesaan langsung menurun kepada 1/6 daripada model pengeluaran terbaik empat bulan lalu. GPT-Red dilatih melalui pembelajaran pengukuhan permainan sendiri, dengan skala pengiraan yang belum pernah berlaku dalam latihan pasca OpenAI.
Maklumat penting
- OpenAI telah melatih model pasukan merah automatik GPT-Red untuk menemui kelemahan sebelum…
- GPT-Red mampu menembusi hampir semua model sebelumnya,dan serangannya digunakan untuk latihan…
- 6 Sol,menjadikan kadar kegagalan model tersebut dalam ujian penanda aras suntikan gesaan langsung…
- GPT-Red dilatih melalui pembelajaran pengukuhan permainan sendiri,dengan skala pengiraan yang…
Sekilas pandang
- Diterbitkan pada
- Dikemas kini pada
- Sumber
- OpenAI:官网动态(RSS · 排除企业/客户案例)
- Kategori
- Pelancaran Model
- Skor AI
- 67
OpenAI 用自博弈训练出的红队模型 GPT-Red,把直接提示注入攻击成功率压到了 0.05%,而且没有降低模型能力。做 AI 安全的人应该好好读一下他们怎么实现这个飞轮的。
Entiti Berkaitan
Sumber dan hak cipta
Artikel ini disusun berdasarkan tajuk pilihan dan ringkasan AI daripada API awam AIHOT, dengan sumber dinyatakan dan pautan balik disediakan; hak cipta teks asal milik media dan penulis asal, laman ini tidak menyalin penuh teks penuh.
Cara memetik
Apabila memetik artikel ini, kekalkan tajuk, tarikh dan pautan kekal, serta nyatakan sumber sebagai Orange News.
Orange News: OpenAI lancar GPT-Red: tingkatkan ketahanan model melalui ujian pasukan merah automatik. 15 Julai 2026. https://new.nat6.net/ms/news/cmrmc527c0088bivcfrd3s2uz/