OpenAI menggunakan latihan red team automatik untuk meningkatkan keteguhan kabur GPT-6 Astra dan Sol dalam bidang berisiko tinggi
Tajuk asal:Improving Fuzzy Robustness in LLM Safety with Automated Red Teaming
Ringkasan AI
Pasukan penyelidik OpenAI menerangkan cara menggunakan red team automatik untuk meningkatkan keteguhan kabur model dalam bidang dwiguna berisiko tinggi seperti siber dan biologi, melalui pengembangan kuasa pengiraan ujian model penyerang untuk carian iteratif bagi jailbreak, serta menghendaki serangan berjaya dalam berbilang ujian berulang (worst@n), bagi menjana data latihan lawan yang boleh dipercayai untuk latihan RL.
Maklumat penting
- Pasukan penyelidik OpenAI menerangkan cara menggunakan red team automatik untuk meningkatkan…
- melalui pengembangan kuasa pengiraan ujian model penyerang untuk carian iteratif bagi jailbreak
- serta menghendaki serangan berjaya dalam berbilang ujian berulang (worst@n),bagi menjana data…
Sekilas pandang
- Diterbitkan pada
- Dikemas kini pada
- Sumber
- OpenAI:Alignment 研究博客(RSS)
- Kategori
- Kertas penyelidikan
- Skor AI
- 62
OpenAI 自己披露的训练方法细节,展示了用自动化攻击生成数据提升模糊鲁棒性的可控实验和结果。
Topik berkaitan
Entiti Berkaitan
Sumber dan hak cipta
Artikel ini disusun berdasarkan tajuk pilihan dan ringkasan AI daripada API awam AIHOT, dengan sumber dinyatakan dan pautan balik disediakan; hak cipta teks asal milik media dan penulis asal, laman ini tidak menyalin penuh teks penuh.
Cara memetik
Apabila memetik artikel ini, kekalkan tajuk, tarikh dan pautan kekal, serta nyatakan sumber sebagai Orange News.
Orange News: OpenAI menggunakan latihan red team automatik untuk meningkatkan keteguhan kabur GPT-6 Astra dan Sol dalam bidang berisiko tinggi. 12 November 2026. https://new.nat6.net/ms/news/yg97h3u5vthadivuv5po5f0aw/