Rilis Model

OpenAI merilis GPT-Red: meningkatkan ketahanan model melalui pengujian red team otomatis

Judul asli:GPT-Red: Unlocking Self-Improvement for Robustness

Ringkasan AI

OpenAI melatih model red team otomatis GPT-Red untuk menemukan kerentanan sebelum penerapan dan menghasilkan serangan selama pelatihan guna meningkatkan ketahanan model. GPT-Red mampu menembus hampir semua model sebelumnya, dan serangannya digunakan untuk pelatihan adversarial GPT-5.6 Sol sehingga tingkat kegagalan model tersebut dalam uji benchmark injeksi prompt langsung turun menjadi 1/6 dari model produksi terbaik empat bulan sebelumnya. GPT-Red dilatih melalui pembelajaran penguatan self-play dengan skala komputasi yang belum pernah ada dalam pelatihan pasca-latih OpenAI.

Poin utama

  • OpenAI melatih model red team otomatis GPT-Red untuk menemukan kerentanan sebelum penerapan dan…
  • GPT-Red mampu menembus hampir semua model sebelumnya,dan serangannya digunakan untuk pelatihan…
  • 6 Sol sehingga tingkat kegagalan model tersebut dalam uji benchmark injeksi prompt langsung turun…
  • GPT-Red dilatih melalui pembelajaran penguatan self-play dengan skala komputasi yang belum pernah…

Ringkasan cepat

Waktu terbit
Waktu diperbarui
Sumber
OpenAI:官网动态(RSS · 排除企业/客户案例)
Kategori
Rilis Model
Skor AI
67
Baca aslinya Baca artikel lengkap di sumber aslinya
Alasan rekomendasi

OpenAI 用自博弈训练出的红队模型 GPT-Red,把直接提示注入攻击成功率压到了 0.05%,而且没有降低模型能力。做 AI 安全的人应该好好读一下他们怎么实现这个飞轮的。

Entitas Terkait

Sumber dan hak cipta

Artikel ini disusun berdasarkan judul pilihan dan ringkasan AI dari API publik AIHOT, dengan sumber yang dicantumkan dan tautan balik; hak cipta konten asli milik media dan penulis aslinya, situs ini tidak menyalin artikel secara penuh.

Tautan asli · Entri AIHOT

Cara mengutip

Saat mengutip artikel ini, sertakan judul, tanggal, dan tautan permanen, serta cantumkan sumber Orange News.

Orange News: OpenAI merilis GPT-Red: meningkatkan ketahanan model melalui pengujian red team otomatis. 15 Juli 2026. https://new.nat6.net/id/news/cmrmc527c0088bivcfrd3s2uz/

Lihat semua →