ओपन-सोर्स संरेखण उपकरण Petri का दान
मूल शीर्षक:Donating our open-source alignment tool
AI सारांश
अक्टूबर 2025 में, Anthropic ने AI मॉडल संरेखण परीक्षण टूलबॉक्स Petri को ओपन-सोर्स किया, जिसका उपयोग मॉडल की धोखाधड़ी, चापलूसी जैसी जोखिम प्रवृत्तियों का त्वरित पता लगाने के लिए किया जाता है। यह टूल Claude मॉडल श्रृंखला के संरेखण मूल्यांकन का मुख्य हिस्सा बन गया है, और ब्रिटेन के AI सुरक्षा संस्थान जैसी बाहरी संस्थाओं द्वारा अपनाया गया है। हाल ही में, Petri को 3.0 संस्करण में अपग्रेड किया गया, जिसमें मुख्य सुधार शामिल हैं: आर्किटेक्चर समायोजन से अनुकूलनशीलता बढ़ी, ऑडिट और लक्ष्य मॉडल को अलग से समायोजित करने की अनुमति; "Dish" ऐड-ऑन के माध्यम से वास्तविक सिस्टम प्रॉम्प्ट और परिनियोजन वातावरण का उपयोग करके परीक्षण की वास्तविकता बढ़ाई; एक अन्य ओपन-सोर्स टूल Bloom के साथ एकीकरण से गहन व्यवहार मूल्यांकन संभव हुआ। स्वतंत्रता और विश्वसनीयता सुनिश्चित करने के लिए, Petri का विकास गैर-लाभकारी संगठन Meridian Labs को हस्तांतरित कर दिया गया है।
मुख्य जानकारी
- अक्टूबर 2025 में,Anthropic ने AI मॉडल संरेखण परीक्षण टूलबॉक्स Petri को ओपन-सोर्स किया,जिसका उपयोग…
- 0 संस्करण में अपग्रेड किया गया,जिसमें मुख्य सुधार शामिल हैं: आर्किटेक्चर समायोजन से अनुकूलनशीलता…
- "Dish" ऐड-ऑन के माध्यम से वास्तविक सिस्टम प्रॉम्प्ट और परिनियोजन वातावरण का उपयोग करके परीक्षण की…
- एक अन्य ओपन-सोर्स टूल Bloom के साथ एकीकरण से गहन व्यवहार मूल्यांकन संभव हुआ। स्वतंत्रता और…
एक नज़र में
- प्रकाशन समय
- अपडेट समय
- श्रेणी
- उत्पाद और ऐप्स
- AI स्कोर
- 73
Petri 从 Anthropic 内部工具箱变成行业公共品,捐赠给 Meridian Labs 意味着对齐评估不再绑定一家公司,做安全测试的团队又多了一个可参考的标尺。
संबंधित एंटिटी
स्रोत और कॉपीराइट
यह लेख AIHOT के सार्वजनिक API की चयनित सुर्खियों और AI सारांशों के आधार पर तैयार किया गया है, स्रोत का उल्लेख और लिंक दिया गया है; मूल पाठ का कॉपीराइट मूल मीडिया और लेखक के पास है, यह साइट पूरा पाठ मिरर नहीं करती।
उद्धरण कैसे दें
इस लेख का उद्धरण देते समय शीर्षक, तिथि और स्थायी लिंक बनाए रखें और स्रोत Orange News बताएं।
Orange News: ओपन-सोर्स संरेखण उपकरण Petri का दान। 7 मई 2026। https://new.nat6.net/hi/news/cmow01hfu01nwslcxdc8cl10x/