Answer.AI revela un problema de llamadas a herramientas no autorizadas: modelos como Claude pueden invocar herramientas no concedidas y la API no lo bloquea
Título original:The unauthorized tool call problem
Resumen de IA
Piotr Czapla, de Answer.AI, descubrió que Claude 4.5 alucinó una herramienta no concedida, add_msg, en una conversación de solveit y la ejecutó con éxito sin que la API lo bloqueara, y reprodujo un comportamiento similar en Gemini y Grok.
Puntos clave
- Piotr Czapla,de Answer.
- AI,descubrió que Claude 4.
- 5 alucinó una herramienta no concedida,add_msg,en una conversación de solveit y la ejecutó con…
Resumen rápido
- Publicado
- Actualizado
- Fuente
- Answer.AI 官方研发博客(RSS)
- Categoría
- Opinión
- Puntuación IA
- 66
作者以可复现的实验展示 API 层不校验工具名带来的安全缺口,并给出客户端侧的简单修复思路。
Entidades relacionadas
Fuente y derechos
Este artículo se basa en títulos seleccionados y resúmenes de IA de la API pública de AIHOT, con atribución y enlaces de vuelta. Los derechos del original pertenecen a los medios y autores originales; este sitio no reproduce textos completos.
Cómo citar
Al citar este artículo, conserva el título, la fecha y el enlace permanente, e indica que la fuente es Orange News.
Orange News: Answer.AI revela un problema de llamadas a herramientas no autorizadas: modelos como Claude pueden invocar herramientas no concedidas y la API no lo bloquea. 18. febrero 2026. https://new.nat6.net/es/news/cmtym2sjq0006roax3kmj3qi7/