Pelancaran Model

OpenAI lancar GPT-Red: tingkatkan ketahanan model melalui ujian pasukan merah automatik

Tajuk asal:GPT-Red: Unlocking Self-Improvement for Robustness

Ringkasan AI

OpenAI telah melatih model pasukan merah automatik GPT-Red untuk menemui kelemahan sebelum penggunaan dan menjana serangan semasa latihan bagi meningkatkan ketahanan model. GPT-Red mampu menembusi hampir semua model sebelumnya, dan serangannya digunakan untuk latihan lawan GPT-5.6 Sol, menjadikan kadar kegagalan model tersebut dalam ujian penanda aras suntikan gesaan langsung menurun kepada 1/6 daripada model pengeluaran terbaik empat bulan lalu. GPT-Red dilatih melalui pembelajaran pengukuhan permainan sendiri, dengan skala pengiraan yang belum pernah berlaku dalam latihan pasca OpenAI.

Maklumat penting

  • OpenAI telah melatih model pasukan merah automatik GPT-Red untuk menemui kelemahan sebelum…
  • GPT-Red mampu menembusi hampir semua model sebelumnya,dan serangannya digunakan untuk latihan…
  • 6 Sol,menjadikan kadar kegagalan model tersebut dalam ujian penanda aras suntikan gesaan langsung…
  • GPT-Red dilatih melalui pembelajaran pengukuhan permainan sendiri,dengan skala pengiraan yang…

Sekilas pandang

Diterbitkan pada
Dikemas kini pada
Sumber
OpenAI:官网动态(RSS · 排除企业/客户案例)
Kategori
Pelancaran Model
Skor AI
67
Baca asal Baca artikel penuh di sumber asal
Sebab disyorkan

OpenAI 用自博弈训练出的红队模型 GPT-Red,把直接提示注入攻击成功率压到了 0.05%,而且没有降低模型能力。做 AI 安全的人应该好好读一下他们怎么实现这个飞轮的。

Entiti Berkaitan

Sumber dan hak cipta

Artikel ini disusun berdasarkan tajuk pilihan dan ringkasan AI daripada API awam AIHOT, dengan sumber dinyatakan dan pautan balik disediakan; hak cipta teks asal milik media dan penulis asal, laman ini tidak menyalin penuh teks penuh.

Pautan asal · Entri AIHOT

Cara memetik

Apabila memetik artikel ini, kekalkan tajuk, tarikh dan pautan kekal, serta nyatakan sumber sebagai Orange News.

Orange News: OpenAI lancar GPT-Red: tingkatkan ketahanan model melalui ujian pasukan merah automatik. 15 Julai 2026. https://new.nat6.net/ms/news/cmrmc527c0088bivcfrd3s2uz/

Lihat Semua →