OpenAI ใช้การเรียนรู้แบบเสริมกำลังสร้างโมเดลที่เป็นประโยชน์อย่างกว้างขวางและยั่งยืน
หัวข้อต้นฉบับ:Reinforcement learning towards broadly and persistently beneficial models
สรุปโดย AI
OpenAI ฝึกโมเดลด้วยการเรียนรู้แบบเสริมกำลังในสถานการณ์สนทนาจริง เพื่อให้แสดงคุณลักษณะที่เป็นประโยชน์ เช่น ความซื่อสัตย์ ความถ่อมตนทางปัญญา ความโปร่งใสด้านอภิปัญญา ความสามารถในการแก้ไข ความเป็นธรรมสากล และความใส่ใจต่อสวัสดิภาพของมนุษย์ ข้อมูลการฝึกครอบคลุมหลายสาขา เช่น สุขภาพ การศึกษา วิทยาศาสตร์ กฎหมาย และวิศวกรรม หลังการฝึก โมเดลมีผลลัพธ์ดีขึ้นในการประเมินการจัดแนวอิสระหลายสิบรายการ (รวมถึงการแฮ็กผลตอบแทน การหลอกลวง คำแนะนำที่เป็นอันตราย และการปฏิบัติตามบรรทัดฐาน) และการปรับปรุงนี้ généralise ไปยังสาขา งาน และการตั้งค่าการให้คะแนนที่ไม่ได้อยู่ในชุดฝึก ภายใต้พรอมป์แบบปรปักษ์หรือการปรับแต่ง โมเดลยังคงถูกชักนำไปสู่พฤติกรรมที่เป็นอันตรายได้ยาก แสดงว่าการเสริมกำลังคุณลักษณะที่เป็นประโยชน์สามารถสร้างการ généralisation ของการจัดแนวที่กว้างขวางและยั่งยืน
สรุปสั้น
- เวลาเผยแพร่
- เวลาอัปเดต
- แหล่งที่มา
- OpenAI:Alignment 研究博客(RSS)
- หมวดหมู่
- บทความและงานวิจัย
- คะแนน AI
- 64
OpenAI 这个对齐实验给出了一个反直觉发现,只在健康数据上训练有益行为竟然也能改善非健康领域的对齐,而且更难被攻破,虽然离落地还远但方向很关键。
เอนทิตีที่เกี่ยวข้อง
แหล่งที่มาและลิขสิทธิ์
บทความนี้เรียบเรียงจากพาดหัวคัดสรรและบทสรุป AI จาก API สาธารณะของ AIHOT โดยระบุแหล่งที่มาและลิงก์กลับแล้ว ลิขสิทธิ์ต้นฉบับเป็นของสื่อและผู้เขียนต้นทาง เว็บไซต์นี้ไม่ได้สะท้อนเนื้อหาฉบับเต็ม
วิธีอ้างอิง
เมื่ออ้างอิงบทความนี้ โปรดระบุชื่อเรื่อง วันที่ และลิงก์ถาวร พร้อมระบุแหล่งที่มาเป็น Orange News
Orange News: OpenAI ใช้การเรียนรู้แบบเสริมกำลังสร้างโมเดลที่เป็นประโยชน์อย่างกว้างขวางและยั่งยืน 19 มิถุนายน 2026 https://new.nat6.net/th/news/cmqk1gfya0283slhilhufijtu/