产品与应用

Cursor 推出 Auto-review 机制:用分类器智能体动态管控智能体自主权限

原文标题:Governing agent autonomy with Auto-review

AI 摘要

Cursor 近日推出 Auto-review,通过一个专门的分类器智能体在工具调用前审查动作风险。该分类器根据上下文判断动作是否与用户意图一致,高风险时阻止并返回解释给父智能体,低风险时放行。分类器采用小模型,运行在智能体循环内以避免额外延迟,并能读取工作区文件辅助判断。测试基于约12小时内部开发会话生成的6122条标签数据,以及针对读取密钥、操作生产数据等危险场景的合成数据。设计目标是在不频繁阻断日常开发的前提下,拦截风险动作。

关键信息

  • Cursor 近日推出 Auto-review,通过一个专门的分类器智能体在工具调用前审查动作风险。
  • 该分类器根据上下文判断动作是否与用户意图一致,高风险时阻止并返回解释给父智能体,低风险时放行。
  • 分类器采用小模型,运行在智能体循环内以避免额外延迟,并能读取工作区文件辅助判断。
  • 测试基于约12小时内部开发会话生成的6122条标签数据,以及针对读取密钥、操作生产数据等危险场景的合成数据。
  • 设计目标是在不频繁阻断日常开发的前提下,拦截风险动作

速览

发布时间
更新时间
来源
Cursor Blog
分类
产品与应用
AI 评分
74
阅读原文 前往信息源阅读完整正文
推荐理由

Cursor把agent监管从"是/否"开关变成了可调节的刻度盘,一个专用小模型实时判断操作风险,高风险时给反馈让父agent换个安全方案,而非频繁打断用户。用Cursor的开发者都得了解这个逻辑。

相关实体

来源与版权

本文基于 AIHOT 公开 API 的精选标题与 AI 摘要整理,已注明来源并回链;原文版权归原媒体与作者所有,本站不镜像全文。

原文链接 · AIHOT 条目

如何引用

引用本文时请保留标题、日期与永久链接,并注明来源为橙子新闻。

橙子新闻:Cursor 推出 Auto-review 机制:用分类器智能体动态管控智能体自主权限。2026年6月11日。https://new.nat6.net/news/cmq9rpndz0emkslldcjukgjn5/

查看全部 →