Answer.AI révèle un problème d'appels d'outils non autorisés : Claude et d'autres modèles peuvent invoquer des outils non accordés sans blocage de l'API
Titre original:The unauthorized tool call problem
Résumé IA
Piotr Czapla, d'Answer.AI, a constaté que Claude 4.5 hallucinait dans une conversation solveit un outil non accordé, add_msg, et l'exécutait avec succès sans interception de l'API ; un comportement similaire a été reproduit sur Gemini et Grok.
Points clés
- Piotr Czapla,d'Answer.
- AI,a constaté que Claude 4.
- 5 hallucinait dans une conversation solveit un outil non accordé,add_msg,et l'exécutait avec…
- un comportement similaire a été reproduit sur Gemini et Grok.
En bref
- Publié
- Mis à jour
- Source
- Answer.AI 官方研发博客(RSS)
- Catégorie
- Opinion
- Score IA
- 66
作者以可复现的实验展示 API 层不校验工具名带来的安全缺口,并给出客户端侧的简单修复思路。
Entités associées
Source et droits
Cet article s'appuie sur des titres sélectionnés et des résumés IA issus de l'API publique AIHOT, avec attribution et liens de retour. Les droits sur l'original restent ceux des médias et auteurs d'origine ; ce site ne reproduit pas les textes intégraux.
Comment citer
Pour citer cet article, conservez le titre, la date et le lien permanent, et indiquez Orange News comme source.
Orange News : Answer.AI révèle un problème d'appels d'outils non autorisés : Claude et d'autres modèles peuvent invoquer des outils non accordés sans blocage de l'API. 18. février 2026. https://new.nat6.net/fr/news/cmtym2sjq0006roax3kmj3qi7/