KPop: बड़े भाषा मॉडल के सुदृढीकरण शिक्षण में प्रशिक्षण और तर्क विसंगति को हल करने के लिए सिमेट्रिक बाइनरी KL डाइवर्जेंस
मूल शीर्षक:解决大模型的"人格分裂":KPop 如何应对强化学习的训练推理不一致问题
AI सारांश
Ant Bailing टीम ने KPop विधि प्रस्तावित की, जो बड़े भाषा मॉडल के सुदृढीकरण शिक्षण में प्रशिक्षण और तर्क इंजन के बीच वितरण विसंगति के कारण होने वाले प्रशिक्षण क्रैश को संबोधित करती है। KPop, IcePop की स्थिर अनुपात सीमा के बजाय सिमेट्रिक बाइनरी KL डाइवर्जेंस का उपयोग करता है, जिसमें केवल एक हाइपरपैरामीटर की आवश्यकता होती है। यह Ring-flash-2.0 (कुल 100B पैरामीटर) पर 800+ स्टेप्स तक स्थिर RL प्रशिक्षण का समर्थन करता है और SWE-bench Verified स्कोर को 70.8% से बढ़ाकर 76.28% करता है।
मुख्य जानकारी
- Ant Bailing टीम ने KPop विधि प्रस्तावित की,जो बड़े भाषा मॉडल के सुदृढीकरण शिक्षण में प्रशिक्षण और…
- 0 (कुल 100B पैरामीटर) पर 800+ स्टेप्स तक स्थिर RL प्रशिक्षण का समर्थन करता है और SWE-bench…
- 8% से बढ़ाकर 76.
- 28% करता है।
एक नज़र में
- प्रकाशन समय
- अपडेट समय
- स्रोत
- 公众号:蚂蚁百灵(Ling)
- श्रेणी
- पेपर और शोध
- AI स्कोर
- 68
解释固定屏蔽比为何误杀稀有token,并给出用对称二元KL散度自适应调整的方法,有助于理解RL训练不稳定并指导稳定训练实践。
स्रोत और कॉपीराइट
यह लेख AIHOT के सार्वजनिक API की चयनित सुर्खियों और AI सारांशों के आधार पर तैयार किया गया है, स्रोत का उल्लेख और लिंक दिया गया है; मूल पाठ का कॉपीराइट मूल मीडिया और लेखक के पास है, यह साइट पूरा पाठ मिरर नहीं करती।
उद्धरण कैसे दें
इस लेख का उद्धरण देते समय शीर्षक, तिथि और स्थायी लिंक बनाए रखें और स्रोत Orange News बताएं।
Orange News: KPop: बड़े भाषा मॉडल के सुदृढीकरण शिक्षण में प्रशिक्षण और तर्क विसंगति को हल करने के लिए सिमेट्रिक बाइनरी KL डाइवर्जेंस। 2 जून 2026। https://new.nat6.net/hi/news/cmsdu2qga010irofz1h15420q/