Opinión

Answer.AI revela un problema de llamadas a herramientas no autorizadas: modelos como Claude pueden invocar herramientas no concedidas y la API no lo bloquea

Título original:The unauthorized tool call problem

Resumen de IA

Piotr Czapla, de Answer.AI, descubrió que Claude 4.5 alucinó una herramienta no concedida, add_msg, en una conversación de solveit y la ejecutó con éxito sin que la API lo bloqueara, y reprodujo un comportamiento similar en Gemini y Grok.

Puntos clave

  • Piotr Czapla,de Answer.
  • AI,descubrió que Claude 4.
  • 5 alucinó una herramienta no concedida,add_msg,en una conversación de solveit y la ejecutó con…

Resumen rápido

Publicado
Actualizado
Fuente
Answer.AI 官方研发博客(RSS)
Categoría
Opinión
Puntuación IA
66
Leer el original Leer el artículo completo en la fuente original
Por qué importa

作者以可复现的实验展示 API 层不校验工具名带来的安全缺口,并给出客户端侧的简单修复思路。

Entidades relacionadas

Fuente y derechos

Este artículo se basa en títulos seleccionados y resúmenes de IA de la API pública de AIHOT, con atribución y enlaces de vuelta. Los derechos del original pertenecen a los medios y autores originales; este sitio no reproduce textos completos.

Artículo original · Ficha de AIHOT

Cómo citar

Al citar este artículo, conserva el título, la fecha y el enlace permanente, e indica que la fuente es Orange News.

Orange News: Answer.AI revela un problema de llamadas a herramientas no autorizadas: modelos como Claude pueden invocar herramientas no concedidas y la API no lo bloquea. 18. febrero 2026. https://new.nat6.net/es/news/cmtym2sjq0006roax3kmj3qi7/

Ver todo →