पेपर और शोध

OpenAI ने deliberative alignment जारी किया: तर्क के माध्यम से भाषा मॉडल को अधिक सुरक्षित बनाना

मूल शीर्षक:Deliberative alignment: reasoning enables safer language models

AI सारांश

OpenAI ने o1 मॉडल के लिए एक नई एलाइनमेंट रणनीति, deliberative alignment पेश की है। यह सीधे मॉडल को सुरक्षा नियम सिखाती है और मॉडल को तर्क प्रक्रिया के दौरान इन नियमों पर विचार करने की अनुमति देती है, जिससे भाषा मॉडल की सुरक्षा बढ़ती है।

मुख्य जानकारी

  • OpenAI ने o1 मॉडल के लिए एक नई एलाइनमेंट रणनीति
  • deliberative alignment पेश की है। यह सीधे मॉडल को सुरक्षा नियम सिखाती है और मॉडल को तर्क प्रक्रिया…
  • जिससे भाषा मॉडल की सुरक्षा बढ़ती है।

एक नज़र में

प्रकाशन समय
अपडेट समय
स्रोत
OpenAI:官网动态(RSS · 排除企业/客户案例)
श्रेणी
पेपर और शोध
AI स्कोर
60
मूल पढ़ें मूल स्रोत पर पूरा लेख पढ़ें
सुझाव का कारण

OpenAI 自己阐述了 o1 的对齐策略思路,读者可以了解推理能力如何被用于安全规范。

संबंधित एंटिटी

स्रोत और कॉपीराइट

यह लेख AIHOT के सार्वजनिक API की चयनित सुर्खियों और AI सारांशों के आधार पर तैयार किया गया है, स्रोत का उल्लेख और लिंक दिया गया है; मूल पाठ का कॉपीराइट मूल मीडिया और लेखक के पास है, यह साइट पूरा पाठ मिरर नहीं करती।

मूल लिंक · AIHOT प्रविष्टि

उद्धरण कैसे दें

इस लेख का उद्धरण देते समय शीर्षक, तिथि और स्थायी लिंक बनाए रखें और स्रोत Orange News बताएं।

Orange News: OpenAI ने deliberative alignment जारी किया: तर्क के माध्यम से भाषा मॉडल को अधिक सुरक्षित बनाना। 20 दिसंबर 2024। https://new.nat6.net/hi/news/vk99jdzrgrjfraabufoyr2o3u/

सभी देखें →