पेपर और शोध

OpenAI ने रीइन्फोर्समेंट लर्निंग से व्यापक और टिकाऊ लाभकारी मॉडल बनाए

मूल शीर्षक:Reinforcement learning towards broadly and persistently beneficial models

AI सारांश

OpenAI ने वास्तविक संवाद परिदृश्यों में रीइन्फोर्समेंट लर्निंग के माध्यम से मॉडलों को प्रशिक्षित किया, ताकि वे ईमानदारी, संज्ञानात्मक विनम्रता, मेटाकॉग्निटिव पारदर्शिता, सुधारशीलता, सार्वभौमिक निष्पक्षता और मानव कल्याण की चिंता जैसे लाभकारी गुण दिखाएं। प्रशिक्षण डेटा में स्वास्थ्य, शिक्षा, विज्ञान, कानून, इंजीनियरिंग आदि कई क्षेत्र शामिल थे। प्रशिक्षण के बाद मॉडलों ने कई दर्जन स्वतंत्र संरेखण मूल्यांकनों (जिनमें रिवॉर्ड हैकिंग, धोखाधड़ी, हानिकारक सलाह, मानदंड अनुपालन आदि शामिल हैं) में बेहतर प्रदर्शन किया, और यह सुधार उन क्षेत्रों, कार्यों व स्कोरिंग सेटिंग्स तक सामान्यीकृत हुआ जो प्रशिक्षण में शामिल नहीं थे। प्रतिकूल संकेतों या फाइन-ट्यूनिंग के तहत भी मॉडलों को हानिकारक व्यवहार की ओर मोड़ना कठिन रहा, जो दर्शाता है कि लाभकारी गुणों का रीइन्फोर्समेंट लर्निंग व्यापक और टिकाऊ संरेखण सामान्यीकरण उत्पन्न कर सकता है।

मुख्य जानकारी

  • OpenAI ने वास्तविक संवाद परिदृश्यों में रीइन्फोर्समेंट लर्निंग के माध्यम से मॉडलों को प्रशिक्षित…
  • इंजीनियरिंग आदि कई क्षेत्र शामिल थे। प्रशिक्षण के बाद मॉडलों ने कई दर्जन स्वतंत्र संरेखण…
  • हानिकारक सलाह,मानदंड अनुपालन आदि शामिल हैं) में बेहतर प्रदर्शन किया,और यह सुधार उन…

एक नज़र में

प्रकाशन समय
अपडेट समय
स्रोत
OpenAI:Alignment 研究博客(RSS)
श्रेणी
पेपर और शोध
AI स्कोर
64
मूल पढ़ें मूल स्रोत पर पूरा लेख पढ़ें
सुझाव का कारण

OpenAI 这个对齐实验给出了一个反直觉发现,只在健康数据上训练有益行为竟然也能改善非健康领域的对齐,而且更难被攻破,虽然离落地还远但方向很关键。

संबंधित एंटिटी

स्रोत और कॉपीराइट

यह लेख AIHOT के सार्वजनिक API की चयनित सुर्खियों और AI सारांशों के आधार पर तैयार किया गया है, स्रोत का उल्लेख और लिंक दिया गया है; मूल पाठ का कॉपीराइट मूल मीडिया और लेखक के पास है, यह साइट पूरा पाठ मिरर नहीं करती।

मूल लिंक · AIHOT प्रविष्टि

उद्धरण कैसे दें

इस लेख का उद्धरण देते समय शीर्षक, तिथि और स्थायी लिंक बनाए रखें और स्रोत Orange News बताएं।

Orange News: OpenAI ने रीइन्फोर्समेंट लर्निंग से व्यापक और टिकाऊ लाभकारी मॉडल बनाए। 19 जून 2026। https://new.nat6.net/hi/news/cmqk1gfya0283slhilhufijtu/

सभी देखें →