Anthropic 开源 AI 安全审计工具 Petri,用智能体自动测试模型对齐行为
原文标题:Petri: An open-source auditing tool to accelerate AI safety research
AI 摘要
Anthropic 发布开源自动审计框架 Petri(Parallel Exploration Tool for Risky Interactions),用 AI 审计智能体在多轮场景中测试目标模型,工具地址为 github.com/safety-research/petri。
关键信息
- Anthropic 发布开源自动审计框架 Petri(Parallel Exploration Tool for Risky Interactions),用 AI 审计智能体在多轮场景中测试目标模型…
- com/safety-research/petri
- Anthropic 开源了用 AI 智能体自动审计目标模型行为的 Petri 框架,读者可以直接复用其审计流程和评分维度设计
速览
- 发布时间
- 更新时间
- 分类
- 产品与应用
- AI 评分
- 71
推荐理由
Anthropic 开源了用 AI 智能体自动审计目标模型行为的 Petri 框架,读者可以直接复用其审计流程和评分维度设计。
相关实体
来源与版权
本文基于 AIHOT 公开 API 的精选标题与 AI 摘要整理,已注明来源并回链;原文版权归原媒体与作者所有,本站不镜像全文。
如何引用
引用本文时请保留标题、日期与永久链接,并注明来源为橙子新闻。
橙子新闻:Anthropic 开源 AI 安全审计工具 Petri,用智能体自动测试模型对齐行为。2025年10月7日。https://new.nat6.net/news/hx673sxz7gq2e6uvq7rep6u4r/