OpenAI เปิดตัว GPT-Red เพิ่มความแข็งแกร่งของโมเดลผ่านการทดสอบ red team อัตโนมัติ
หัวข้อต้นฉบับ:GPT-Red: Unlocking Self-Improvement for Robustness
สรุปโดย AI
OpenAI ฝึกโมเดล red team อัตโนมัติ GPT-Red เพื่อค้นหาช่องโหว่ก่อนการใช้งานจริงและสร้างการโจมตีระหว่างการฝึกอบรมเพื่อเพิ่มความแข็งแกร่งของโมเดล GPT-Red สามารถเจาะโมเดลเกือบทั้งหมดก่อนหน้านี้ และการโจมตีของมันถูกใช้ในการฝึกอบรมแบบต่อต้านกับ GPT-5.6 Sol ทำให้อัตราความล้มเหลวของโมเดลนี้ในการทดสอบ基準การฉีดพรอมต์โดยตรงลดลงเหลือ 1/6 ของโมเดลโปรดักชันที่ดีที่สุดเมื่อสี่เดือนก่อน GPT-Red ฝึกด้วยการเรียนรู้แบบเสริมกำลังจากการเล่นกับตัวเอง โดยใช้ขนาดการคำนวณในการฝึกหลังการฝึกอบรมของ OpenAI ที่ไม่เคยมีมาก่อน
สรุปสั้น
- เวลาเผยแพร่
- เวลาอัปเดต
- แหล่งที่มา
- OpenAI:官网动态(RSS · 排除企业/客户案例)
- หมวดหมู่
- เปิดตัวโมเดล
- คะแนน AI
- 67
OpenAI 用自博弈训练出的红队模型 GPT-Red,把直接提示注入攻击成功率压到了 0.05%,而且没有降低模型能力。做 AI 安全的人应该好好读一下他们怎么实现这个飞轮的。
เอนทิตีที่เกี่ยวข้อง
แหล่งที่มาและลิขสิทธิ์
บทความนี้เรียบเรียงจากพาดหัวคัดสรรและบทสรุป AI จาก API สาธารณะของ AIHOT โดยระบุแหล่งที่มาและลิงก์กลับแล้ว ลิขสิทธิ์ต้นฉบับเป็นของสื่อและผู้เขียนต้นทาง เว็บไซต์นี้ไม่ได้สะท้อนเนื้อหาฉบับเต็ม
วิธีอ้างอิง
เมื่ออ้างอิงบทความนี้ โปรดระบุชื่อเรื่อง วันที่ และลิงก์ถาวร พร้อมระบุแหล่งที่มาเป็น Orange News
Orange News: OpenAI เปิดตัว GPT-Red เพิ่มความแข็งแกร่งของโมเดลผ่านการทดสอบ red team อัตโนมัติ 15 กรกฎาคม 2026 https://new.nat6.net/th/news/cmrmc527c0088bivcfrd3s2uz/