Meta पर आरोप: आउटसोर्स कर्मचारियों को नाबालिग बनाकर प्रतिस्पर्धी AI से संवेदनशील विषयों पर बात कराई
AI सारांश
वायर्ड की रिपोर्ट के अनुसार, Meta ने आउटसोर्स कंपनी Covalen के माध्यम से "Cannes" कोड नाम से परियोजना चलाई, जिसमें सैकड़ों आउटसोर्स कर्मचारियों को नाबालिग बनाकर OpenAI ChatGPT, Google Gemini और Character.AI को आत्महत्या, स्वयं को नुकसान पहुंचाने, खाने के विकार जैसे उच्च जोखिम वाले प्रॉम्प्ट भेजे गए, ताकि प्रतिस्पर्धी चैटबॉट के सुरक्षा अवरोधन तंत्र का परीक्षण किया जा सके। परियोजना 21 अप्रैल तक चली, एक दौर के परीक्षण में 45,000 से अधिक प्रॉम्प्ट भेजे गए, आउटसोर्स कर्मचारियों ने 18 वर्ष से कम उम्र के फर्जी खाते बनाए और गोलियों, चाकू आदि की तस्वीरें अपलोड कीं। Meta ने कहा कि यह सामान्य सुरक्षा परीक्षण है और प्रतिस्पर्धी परीक्षण डेटा का उपयोग अपने मॉडल के प्रशिक्षण में नहीं किया जाएगा।
मुख्य जानकारी
- वायर्ड की रिपोर्ट के अनुसार,Meta ने आउटसोर्स कंपनी Covalen के माध्यम से "Cannes" कोड नाम से…
- AI को आत्महत्या,स्वयं को नुकसान पहुंचाने,खाने के विकार जैसे उच्च जोखिम वाले प्रॉम्प्ट भेजे गए,ताकि…
- आउटसोर्स कर्मचारियों ने 18 वर्ष से कम उम्र के फर्जी खाते बनाए और गोलियों,चाकू आदि की तस्वीरें…
एक नज़र में
- प्रकाशन समय
- अपडेट समय
- स्रोत
- IT之家·人工智能
- श्रेणी
- उद्योग समाचार
- AI स्कोर
- 73
Meta用外包人员伪装未成年人测试竞品AI,这事撕开了AI安全测试的灰色地带,暴露了聊天机器人面对极端儿童话题时的脆弱性,比任何安全白皮书都更有冲击力。
संबंधित एंटिटी
स्रोत और कॉपीराइट
यह लेख AIHOT के सार्वजनिक API की चयनित सुर्खियों और AI सारांशों के आधार पर तैयार किया गया है, स्रोत का उल्लेख और लिंक दिया गया है; मूल पाठ का कॉपीराइट मूल मीडिया और लेखक के पास है, यह साइट पूरा पाठ मिरर नहीं करती।
उद्धरण कैसे दें
इस लेख का उद्धरण देते समय शीर्षक, तिथि और स्थायी लिंक बनाए रखें और स्रोत Orange News बताएं।
Orange News: Meta पर आरोप: आउटसोर्स कर्मचारियों को नाबालिग बनाकर प्रतिस्पर्धी AI से संवेदनशील विषयों पर बात कराई। 6 जुलाई 2026। https://new.nat6.net/hi/news/cmr91yrn100noslmpusn7u7q0/