Kertas penyelidikan

OpenAI menggunakan latihan red team automatik untuk meningkatkan keteguhan kabur GPT-6 Astra dan Sol dalam bidang berisiko tinggi

Tajuk asal:Improving Fuzzy Robustness in LLM Safety with Automated Red Teaming

Ringkasan AI

Pasukan penyelidik OpenAI menerangkan cara menggunakan red team automatik untuk meningkatkan keteguhan kabur model dalam bidang dwiguna berisiko tinggi seperti siber dan biologi, melalui pengembangan kuasa pengiraan ujian model penyerang untuk carian iteratif bagi jailbreak, serta menghendaki serangan berjaya dalam berbilang ujian berulang (worst@n), bagi menjana data latihan lawan yang boleh dipercayai untuk latihan RL.

Maklumat penting

  • Pasukan penyelidik OpenAI menerangkan cara menggunakan red team automatik untuk meningkatkan…
  • melalui pengembangan kuasa pengiraan ujian model penyerang untuk carian iteratif bagi jailbreak
  • serta menghendaki serangan berjaya dalam berbilang ujian berulang (worst@n),bagi menjana data…

Sekilas pandang

Diterbitkan pada
Dikemas kini pada
Sumber
OpenAI:Alignment 研究博客(RSS)
Kategori
Kertas penyelidikan
Topik
OpenAI / ChatGPTKeselamatan dan penjajaran
Skor AI
62
Baca asal Baca artikel penuh di sumber asal
Sebab disyorkan

OpenAI 自己披露的训练方法细节,展示了用自动化攻击生成数据提升模糊鲁棒性的可控实验和结果。

Topik berkaitan

Entiti Berkaitan

Sumber dan hak cipta

Artikel ini disusun berdasarkan tajuk pilihan dan ringkasan AI daripada API awam AIHOT, dengan sumber dinyatakan dan pautan balik disediakan; hak cipta teks asal milik media dan penulis asal, laman ini tidak menyalin penuh teks penuh.

Pautan asal · Entri AIHOT

Cara memetik

Apabila memetik artikel ini, kekalkan tajuk, tarikh dan pautan kekal, serta nyatakan sumber sebagai Orange News.

Orange News: OpenAI menggunakan latihan red team automatik untuk meningkatkan keteguhan kabur GPT-6 Astra dan Sol dalam bidang berisiko tinggi. 12 November 2026. https://new.nat6.net/ms/news/yg97h3u5vthadivuv5po5f0aw/

Lihat Semua →