Answer.AI 揭示未授权工具调用问题:Claude 等模型可调用未授予的工具且 API 不拦截
原文标题:The unauthorized tool call problem
AI 摘要
Answer.AI 的 Piotr Czapla 发现 Claude 4.5 在 solveit 对话中幻觉出一个未授予的工具 add_msg 并成功执行,API 未拦截,且在 Gemini 和 Grok 上也复现了类似行为。
关键信息
- Answer.
- AI 的 Piotr Czapla 发现 Claude 4.
- 5 在 solveit 对话中幻觉出一个未授予的工具 add_msg 并成功执行,API 未拦截,且在 Gemini 和 Grok 上也复现了类似行为
- 作者以可复现的实验展示 API 层不校验工具名带来的安全缺口,并给出客户端侧的简单修复思路
速览
- 发布时间
- 更新时间
- 分类
- 观点与评论
- AI 评分
- 66
推荐理由
作者以可复现的实验展示 API 层不校验工具名带来的安全缺口,并给出客户端侧的简单修复思路。
相关实体
来源与版权
本文基于 AIHOT 公开 API 的精选标题与 AI 摘要整理,已注明来源并回链;原文版权归原媒体与作者所有,本站不镜像全文。
如何引用
引用本文时请保留标题、日期与永久链接,并注明来源为橙子新闻。
橙子新闻:Answer.AI 揭示未授权工具调用问题:Claude 等模型可调用未授予的工具且 API 不拦截。2026年2月18日。https://new.nat6.net/news/cmtym2sjq0006roax3kmj3qi7/