观点与评论

Answer.AI 揭示未授权工具调用问题:Claude 等模型可调用未授予的工具且 API 不拦截

原文标题:The unauthorized tool call problem

AI 摘要

Answer.AI 的 Piotr Czapla 发现 Claude 4.5 在 solveit 对话中幻觉出一个未授予的工具 add_msg 并成功执行,API 未拦截,且在 Gemini 和 Grok 上也复现了类似行为。

关键信息

  • Answer.
  • AI 的 Piotr Czapla 发现 Claude 4.
  • 5 在 solveit 对话中幻觉出一个未授予的工具 add_msg 并成功执行,API 未拦截,且在 Gemini 和 Grok 上也复现了类似行为
  • 作者以可复现的实验展示 API 层不校验工具名带来的安全缺口,并给出客户端侧的简单修复思路

速览

发布时间
更新时间
来源
Answer.AI 官方研发博客(RSS)
分类
观点与评论
AI 评分
66
阅读原文 前往信息源阅读完整正文
推荐理由

作者以可复现的实验展示 API 层不校验工具名带来的安全缺口,并给出客户端侧的简单修复思路。

相关实体

来源与版权

本文基于 AIHOT 公开 API 的精选标题与 AI 摘要整理,已注明来源并回链;原文版权归原媒体与作者所有,本站不镜像全文。

原文链接 · AIHOT 条目

如何引用

引用本文时请保留标题、日期与永久链接,并注明来源为橙子新闻。

橙子新闻:Answer.AI 揭示未授权工具调用问题:Claude 等模型可调用未授予的工具且 API 不拦截。2026年2月18日。https://new.nat6.net/news/cmtym2sjq0006roax3kmj3qi7/

查看全部 →
  • Cognition 如何用 Devin 开发 Devin

    Cognition 发文介绍其从创立起就用 Devin 构建 Devin,上周合并了 659 个 Devin PR,高于 2025 年最好一周的 154 个。文章覆盖全接口使用(web、Slack、Linear、CLI、API)及 Ask…

    Cognition 模型 / Devin 博客(网页)观点与评论AI 评分 67

  • AI 吸血鬼

    AI(如 Claude Code)确实能带来 10 倍生产力提升,但创造的价值大部分被公司捕获,员工可能过度劳累却收获甚微。微软内部已自发大量采用 Claude Code。这种效率加速迫使工作节奏不断加快,导致许多早期采用者(包括作者自己…

    Steve Yegge:Medium(RSS)观点与评论AI 评分 75

  • 用并行Claude智能体团队从零构建C编译器

    研究人员采用“智能体团队”方法,让多个Claude实例在无人工干预下并行协作开发代码。为进行压力测试,团队指派16个智能体从零编写一个能编译Linux内核的Rust版C编译器。项目消耗近2000次会话和约2万美元,最终产出10万行代码的编…

    Anthropic:Engineering(事故复盘 + 工程实践 · 网页)观点与评论AI 评分 78