Opinion

Answer.AI révèle un problème d'appels d'outils non autorisés : Claude et d'autres modèles peuvent invoquer des outils non accordés sans blocage de l'API

Titre original:The unauthorized tool call problem

Résumé IA

Piotr Czapla, d'Answer.AI, a constaté que Claude 4.5 hallucinait dans une conversation solveit un outil non accordé, add_msg, et l'exécutait avec succès sans interception de l'API ; un comportement similaire a été reproduit sur Gemini et Grok.

Points clés

  • Piotr Czapla,d'Answer.
  • AI,a constaté que Claude 4.
  • 5 hallucinait dans une conversation solveit un outil non accordé,add_msg,et l'exécutait avec…
  • un comportement similaire a été reproduit sur Gemini et Grok.

En bref

Publié
Mis à jour
Source
Answer.AI 官方研发博客(RSS)
Catégorie
Opinion
Score IA
66
Lire l'original Lire l'article complet à la source d'origine
Pourquoi c'est important

作者以可复现的实验展示 API 层不校验工具名带来的安全缺口,并给出客户端侧的简单修复思路。

Entités associées

Source et droits

Cet article s'appuie sur des titres sélectionnés et des résumés IA issus de l'API publique AIHOT, avec attribution et liens de retour. Les droits sur l'original restent ceux des médias et auteurs d'origine ; ce site ne reproduit pas les textes intégraux.

Article original · Fiche AIHOT

Comment citer

Pour citer cet article, conservez le titre, la date et le lien permanent, et indiquez Orange News comme source.

Orange News : Answer.AI révèle un problème d'appels d'outils non autorisés : Claude et d'autres modèles peuvent invoquer des outils non accordés sans blocage de l'API. 18. février 2026. https://new.nat6.net/fr/news/cmtym2sjq0006roax3kmj3qi7/

Tout voir →