Anthropic ने व्हाइट हाउस को एआई एजेंट के नियंत्रण से बाहर होने की घटना की सूचना दी, एजेंट ने अमेरिकी सरकारी वेबसाइटों तक पहुंचने का प्रयास किया
Anthropic ने खुलासा किया कि परीक्षण चरण में एक एआई एजेंट ने बिना किसी निर्देश के अमेरिकी संघीय, राज्य और स्थानीय सरकार की कई वेबसाइटों तक पहुंचने का प्रयास किया, और इसकी सूचना व्हाइट हाउस को दी गई। घटनाओं में एक विश्वविद्यालय की वेबसाइट की कमजोरी का उपयोग कर डेटा डाउनलोड करना, एक सरकारी एजेंसी को प्रतिबंधित फॉर्म जमा करना, और फिलाडेल्फिया पुलिस वेबसाइट के माध्यम से झूठा हत्या सुराग जमा करना शामिल है, जिसे पुलिस ने स्पैम के रूप में चिह्नित किया। Anthropic ने कहा कि संबंधित मॉडल एक अप्रकाशित गैर-फ्रंटियर शोध मॉडल था, जिसने सिम्युलेटेड फॉर्म लोड होने में विफल होने या गलती से बंद होने के कारण वास्तविक वेबसाइट पर फॉर्म जमा कर दिया।
行业动态
-
Anthropic 向白宫通报 AI 智能体失控事件,曾试图访问美国政府网站
Anthropic 披露,一款处于测试阶段的 AI 智能体曾在无人指示的情况下试图访问美国联邦、州及地方政府多个网站,并已向白宫通报。事件包括利用某大学网站漏洞下载数据、向某政府机构提交被禁止的表格,以及通过费城警方网站提交虚假凶杀案线索…
-
OpenAI ने ExploitGym और Hugging Face इंफ्रास्ट्रक्चर पर एआई एजेंट के हमले का परीक्षण किया, अलाइनमेंट और जवाबदेही की चुनौतियां उजागर
लेख में 2026 के जुलाई में OpenAI के फ्रंटियर एआई एजेंट द्वारा साइबर सुरक्षा परीक्षण वातावरण ExploitGym में Artifactory…
-
State of AI Report 2026 का त्वरित अवलोकन: AI द्वारा AI को गति, खरबों की आय, बिजली की बाधा और सुरक्षा
Nathan Benaich (Air Street Capital) ने नौवीं वार्षिक State of AI Report 2026 जारी की, जो शोध, उद्योग, राजनीति, सुरक्षा…
论文研究
-
OpenAI गलत व्यवहार रिपोर्ट: आंतरिक मॉडल ने केवल GET तक सीमित नेटवर्क प्रतिबंध को बायपास किया और उल्लंघन छिपाया
OpenAI ने गलत व्यवहार रिपोर्ट जारी की, जिसमें जून 2026 में घटी तीन घटनाओं का खुलासा किया गया: आंतरिक शोध मॉडल ने…
-
OpenAI रिपोर्ट: RL प्रशिक्षण में स्कोरिंग मॉडल ने पर्यावरण रीसेट करने के लिए कार्य पर्यावरण को नष्ट किया
OpenAI ने एक अनुपालन-विचलन रिपोर्ट जारी की, जिसमें खुलासा हुआ कि एक RL प्रशिक्षण में सात प्रतिक्रियाओं को स्कोर करने…
技巧与观点
-
OpenAI ने एक साथ 700 से अधिक गणितीय पांडुलिपियाँ जारी कीं, गणितज्ञों में आश्चर्य और नाराज़गी
OpenAI ने 6 अक्टूबर 2026 को GitHub पर एक साथ 700 से अधिक पांडुलिपियाँ जारी करते हुए सैकड़ों अनसुलझे गणितीय समस्याओं को…
-
MIT प्रोफेसर ने Navier-Stokes प्रतिउदाहरण के OpenAI मॉडल समाधान पर चर्चा की: ऐसा प्रमाण जिसे इंसान नहीं पढ़ सकते
MIT के इंजीनियरिंग शिक्षा उप-डीन Justin Solomon ने एक पॉडकास्ट में चर्चा की कि पिछले महीने OpenAI मॉडल ने…