产品与应用

Anthropic 开源 AI 安全审计工具 Petri,用智能体自动测试模型对齐行为

原文标题:Petri: An open-source auditing tool to accelerate AI safety research

AI 摘要

Anthropic 发布开源自动审计框架 Petri(Parallel Exploration Tool for Risky Interactions),用 AI 审计智能体在多轮场景中测试目标模型,工具地址为 github.com/safety-research/petri。

关键信息

  • Anthropic 发布开源自动审计框架 Petri(Parallel Exploration Tool for Risky Interactions),用 AI 审计智能体在多轮场景中测试目标模型…
  • com/safety-research/petri
  • Anthropic 开源了用 AI 智能体自动审计目标模型行为的 Petri 框架,读者可以直接复用其审计流程和评分维度设计

速览

发布时间
更新时间
来源
Anthropic:Alignment Science Blog(网页)
分类
产品与应用
AI 评分
71
阅读原文 前往信息源阅读完整正文
推荐理由

Anthropic 开源了用 AI 智能体自动审计目标模型行为的 Petri 框架,读者可以直接复用其审计流程和评分维度设计。

相关实体

来源与版权

本文基于 AIHOT 公开 API 的精选标题与 AI 摘要整理,已注明来源并回链;原文版权归原媒体与作者所有,本站不镜像全文。

原文链接 · AIHOT 条目

如何引用

引用本文时请保留标题、日期与永久链接,并注明来源为橙子新闻。

橙子新闻:Anthropic 开源 AI 安全审计工具 Petri,用智能体自动测试模型对齐行为。2025年10月7日。https://new.nat6.net/news/hx673sxz7gq2e6uvq7rep6u4r/

查看全部 →