บทความและงานวิจัย

OpenAI ใช้การเรียนรู้แบบเสริมกำลังสร้างโมเดลที่เป็นประโยชน์อย่างกว้างขวางและยั่งยืน

หัวข้อต้นฉบับ:Reinforcement learning towards broadly and persistently beneficial models

สรุปโดย AI

OpenAI ฝึกโมเดลด้วยการเรียนรู้แบบเสริมกำลังในสถานการณ์สนทนาจริง เพื่อให้แสดงคุณลักษณะที่เป็นประโยชน์ เช่น ความซื่อสัตย์ ความถ่อมตนทางปัญญา ความโปร่งใสด้านอภิปัญญา ความสามารถในการแก้ไข ความเป็นธรรมสากล และความใส่ใจต่อสวัสดิภาพของมนุษย์ ข้อมูลการฝึกครอบคลุมหลายสาขา เช่น สุขภาพ การศึกษา วิทยาศาสตร์ กฎหมาย และวิศวกรรม หลังการฝึก โมเดลมีผลลัพธ์ดีขึ้นในการประเมินการจัดแนวอิสระหลายสิบรายการ (รวมถึงการแฮ็กผลตอบแทน การหลอกลวง คำแนะนำที่เป็นอันตราย และการปฏิบัติตามบรรทัดฐาน) และการปรับปรุงนี้ généralise ไปยังสาขา งาน และการตั้งค่าการให้คะแนนที่ไม่ได้อยู่ในชุดฝึก ภายใต้พรอมป์แบบปรปักษ์หรือการปรับแต่ง โมเดลยังคงถูกชักนำไปสู่พฤติกรรมที่เป็นอันตรายได้ยาก แสดงว่าการเสริมกำลังคุณลักษณะที่เป็นประโยชน์สามารถสร้างการ généralisation ของการจัดแนวที่กว้างขวางและยั่งยืน

สรุปสั้น

เวลาเผยแพร่
เวลาอัปเดต
แหล่งที่มา
OpenAI:Alignment 研究博客(RSS)
หมวดหมู่
บทความและงานวิจัย
คะแนน AI
64
อ่านต้นฉบับ อ่านบทความฉบับเต็มที่แหล่งข่าวต้นฉบับ
เหตุผลที่แนะนำ

OpenAI 这个对齐实验给出了一个反直觉发现,只在健康数据上训练有益行为竟然也能改善非健康领域的对齐,而且更难被攻破,虽然离落地还远但方向很关键。

เอนทิตีที่เกี่ยวข้อง

แหล่งที่มาและลิขสิทธิ์

บทความนี้เรียบเรียงจากพาดหัวคัดสรรและบทสรุป AI จาก API สาธารณะของ AIHOT โดยระบุแหล่งที่มาและลิงก์กลับแล้ว ลิขสิทธิ์ต้นฉบับเป็นของสื่อและผู้เขียนต้นทาง เว็บไซต์นี้ไม่ได้สะท้อนเนื้อหาฉบับเต็ม

ลิงก์ต้นฉบับ · รายการ AIHOT

วิธีอ้างอิง

เมื่ออ้างอิงบทความนี้ โปรดระบุชื่อเรื่อง วันที่ และลิงก์ถาวร พร้อมระบุแหล่งที่มาเป็น Orange News

Orange News: OpenAI ใช้การเรียนรู้แบบเสริมกำลังสร้างโมเดลที่เป็นประโยชน์อย่างกว้างขวางและยั่งยืน 19 มิถุนายน 2026 https://new.nat6.net/th/news/cmqk1gfya0283slhilhufijtu/

ดูทั้งหมด →