Answer.AI ने अनधिकृत टूल कॉल समस्या का खुलासा किया: Claude जैसे मॉडल बिना अनुमति वाले टूल को कॉल कर सकते हैं और API उन्हें रोकता नहीं है
मूल शीर्षक:The unauthorized tool call problem
AI सारांश
Answer.AI के Piotr Czapla ने पाया कि Claude 4.5 ने solveit वार्तालाप के दौरान एक अनधिकृत टूल add_msg का भ्रम उत्पन्न किया और उसे सफलतापूर्वक निष्पादित किया। API ने इसे नहीं रोका, और इसी तरह का व्यवहार Gemini और Grok पर भी देखा गया।
मुख्य जानकारी
- Answer.
- AI के Piotr Czapla ने पाया कि Claude 4.
- 5 ने solveit वार्तालाप के दौरान एक अनधिकृत टूल add_msg का भ्रम उत्पन्न किया और उसे सफलतापूर्वक…
एक नज़र में
- प्रकाशन समय
- अपडेट समय
- स्रोत
- Answer.AI 官方研发博客(RSS)
- श्रेणी
- विचार और समीक्षा
- AI स्कोर
- 66
作者以可复现的实验展示 API 层不校验工具名带来的安全缺口,并给出客户端侧的简单修复思路。
संबंधित एंटिटी
स्रोत और कॉपीराइट
यह लेख AIHOT के सार्वजनिक API की चयनित सुर्खियों और AI सारांशों के आधार पर तैयार किया गया है, स्रोत का उल्लेख और लिंक दिया गया है; मूल पाठ का कॉपीराइट मूल मीडिया और लेखक के पास है, यह साइट पूरा पाठ मिरर नहीं करती।
उद्धरण कैसे दें
इस लेख का उद्धरण देते समय शीर्षक, तिथि और स्थायी लिंक बनाए रखें और स्रोत Orange News बताएं।
Orange News: Answer.AI ने अनधिकृत टूल कॉल समस्या का खुलासा किया: Claude जैसे मॉडल बिना अनुमति वाले टूल को कॉल कर सकते हैं और API उन्हें रोकता नहीं है। 18 फ़रवरी 2026। https://new.nat6.net/hi/news/cmtym2sjq0006roax3kmj3qi7/