เปิดตัวโมเดล

OpenAI เปิดตัว GPT-Red เพิ่มความแข็งแกร่งของโมเดลผ่านการทดสอบ red team อัตโนมัติ

หัวข้อต้นฉบับ:GPT-Red: Unlocking Self-Improvement for Robustness

สรุปโดย AI

OpenAI ฝึกโมเดล red team อัตโนมัติ GPT-Red เพื่อค้นหาช่องโหว่ก่อนการใช้งานจริงและสร้างการโจมตีระหว่างการฝึกอบรมเพื่อเพิ่มความแข็งแกร่งของโมเดล GPT-Red สามารถเจาะโมเดลเกือบทั้งหมดก่อนหน้านี้ และการโจมตีของมันถูกใช้ในการฝึกอบรมแบบต่อต้านกับ GPT-5.6 Sol ทำให้อัตราความล้มเหลวของโมเดลนี้ในการทดสอบ基準การฉีดพรอมต์โดยตรงลดลงเหลือ 1/6 ของโมเดลโปรดักชันที่ดีที่สุดเมื่อสี่เดือนก่อน GPT-Red ฝึกด้วยการเรียนรู้แบบเสริมกำลังจากการเล่นกับตัวเอง โดยใช้ขนาดการคำนวณในการฝึกหลังการฝึกอบรมของ OpenAI ที่ไม่เคยมีมาก่อน

สรุปสั้น

เวลาเผยแพร่
เวลาอัปเดต
แหล่งที่มา
OpenAI:官网动态(RSS · 排除企业/客户案例)
หมวดหมู่
เปิดตัวโมเดล
คะแนน AI
67
อ่านต้นฉบับ อ่านบทความฉบับเต็มที่แหล่งข่าวต้นฉบับ
เหตุผลที่แนะนำ

OpenAI 用自博弈训练出的红队模型 GPT-Red,把直接提示注入攻击成功率压到了 0.05%,而且没有降低模型能力。做 AI 安全的人应该好好读一下他们怎么实现这个飞轮的。

เอนทิตีที่เกี่ยวข้อง

แหล่งที่มาและลิขสิทธิ์

บทความนี้เรียบเรียงจากพาดหัวคัดสรรและบทสรุป AI จาก API สาธารณะของ AIHOT โดยระบุแหล่งที่มาและลิงก์กลับแล้ว ลิขสิทธิ์ต้นฉบับเป็นของสื่อและผู้เขียนต้นทาง เว็บไซต์นี้ไม่ได้สะท้อนเนื้อหาฉบับเต็ม

ลิงก์ต้นฉบับ · รายการ AIHOT

วิธีอ้างอิง

เมื่ออ้างอิงบทความนี้ โปรดระบุชื่อเรื่อง วันที่ และลิงก์ถาวร พร้อมระบุแหล่งที่มาเป็น Orange News

Orange News: OpenAI เปิดตัว GPT-Red เพิ่มความแข็งแกร่งของโมเดลผ่านการทดสอบ red team อัตโนมัติ 15 กรกฎาคม 2026 https://new.nat6.net/th/news/cmrmc527c0088bivcfrd3s2uz/

ดูทั้งหมด →