पेपर और शोध

OpenAI और DeepMind ने मानवीय प्राथमिकताओं से सीखने के लिए शोध में सहयोग किया

मूल शीर्षक:Learning from human preferences

AI सारांश

OpenAI और DeepMind की सुरक्षा टीमों ने एक एल्गोरिदम विकसित किया है जो यह अनुमान लगाता है कि इंसान क्या चाहते हैं, इसके लिए दो संभावित व्यवहारों में से बेहतर को चुनने के लिए इंसानी निर्णय का उपयोग किया जाता है। इसका उद्देश्य जटिल लक्ष्यों के लिए सरल प्रॉक्सी या लक्ष्य पूर्वाग्रह से उत्पन्न होने वाले खतरनाक व्यवहारों से बचना और सुरक्षित AI सिस्टम का निर्माण करना है।

एक नज़र में

प्रकाशन समय
अपडेट समय
स्रोत
OpenAI:官网动态(RSS · 排除企业/客户案例)
श्रेणी
पेपर और शोध
AI स्कोर
70
मूल पढ़ें मूल स्रोत पर पूरा लेख पढ़ें
सुझाव का कारण

原文说明该算法通过比较两种行为的优劣来推断人类偏好,从而免去人工编写目标函数,可作为对齐研究的背景参考。

संबंधित एंटिटी

स्रोत और कॉपीराइट

यह लेख AIHOT के सार्वजनिक API की चयनित सुर्खियों और AI सारांशों के आधार पर तैयार किया गया है, स्रोत का उल्लेख और लिंक दिया गया है; मूल पाठ का कॉपीराइट मूल मीडिया और लेखक के पास है, यह साइट पूरा पाठ मिरर नहीं करती।

मूल लिंक · AIHOT प्रविष्टि

उद्धरण कैसे दें

इस लेख का उद्धरण देते समय शीर्षक, तिथि और स्थायी लिंक बनाए रखें और स्रोत Orange News बताएं।

Orange News: OpenAI और DeepMind ने मानवीय प्राथमिकताओं से सीखने के लिए शोध में सहयोग किया। 13 जून 2017। https://new.nat6.net/hi/news/vron7w516tsukjv0bfk7g7g24/

सभी देखें →