OpenAI और DeepMind ने मानवीय प्राथमिकताओं से सीखने के लिए शोध में सहयोग किया
मूल शीर्षक:Learning from human preferences
AI सारांश
OpenAI और DeepMind की सुरक्षा टीमों ने एक एल्गोरिदम विकसित किया है जो यह अनुमान लगाता है कि इंसान क्या चाहते हैं, इसके लिए दो संभावित व्यवहारों में से बेहतर को चुनने के लिए इंसानी निर्णय का उपयोग किया जाता है। इसका उद्देश्य जटिल लक्ष्यों के लिए सरल प्रॉक्सी या लक्ष्य पूर्वाग्रह से उत्पन्न होने वाले खतरनाक व्यवहारों से बचना और सुरक्षित AI सिस्टम का निर्माण करना है।
एक नज़र में
- प्रकाशन समय
- अपडेट समय
- श्रेणी
- पेपर और शोध
- AI स्कोर
- 70
原文说明该算法通过比较两种行为的优劣来推断人类偏好,从而免去人工编写目标函数,可作为对齐研究的背景参考。
संबंधित एंटिटी
स्रोत और कॉपीराइट
यह लेख AIHOT के सार्वजनिक API की चयनित सुर्खियों और AI सारांशों के आधार पर तैयार किया गया है, स्रोत का उल्लेख और लिंक दिया गया है; मूल पाठ का कॉपीराइट मूल मीडिया और लेखक के पास है, यह साइट पूरा पाठ मिरर नहीं करती।
उद्धरण कैसे दें
इस लेख का उद्धरण देते समय शीर्षक, तिथि और स्थायी लिंक बनाए रखें और स्रोत Orange News बताएं।
Orange News: OpenAI और DeepMind ने मानवीय प्राथमिकताओं से सीखने के लिए शोध में सहयोग किया। 13 जून 2017। https://new.nat6.net/hi/news/vron7w516tsukjv0bfk7g7g24/