Productos y aplicaciones

Anthropic abre el código de Petri, herramienta de auditoría de seguridad de IA que prueba automáticamente la alineación de modelos con agentes

Título original:Petri: An open-source auditing tool to accelerate AI safety research

Resumen de IA

Anthropic publica Petri (Parallel Exploration Tool for Risky Interactions), un marco de auditoría automática de código abierto que emplea agentes auditores de IA para probar el modelo objetivo en escenarios de múltiples turnos; la herramienta está en github.com/safety-research/petri.

Puntos clave

  • Anthropic publica Petri (Parallel Exploration Tool for Risky Interactions),un marco de auditoría…
  • la herramienta está en github.
  • com/safety-research/petri.

Resumen rápido

Publicado
Actualizado
Fuente
Anthropic:Alignment Science Blog(网页)
Categoría
Productos y aplicaciones
Puntuación IA
71
Leer el original Leer el artículo completo en la fuente original
Por qué importa

Anthropic 开源了用 AI 智能体自动审计目标模型行为的 Petri 框架,读者可以直接复用其审计流程和评分维度设计。

Entidades relacionadas

Fuente y derechos

Este artículo se basa en títulos seleccionados y resúmenes de IA de la API pública de AIHOT, con atribución y enlaces de vuelta. Los derechos del original pertenecen a los medios y autores originales; este sitio no reproduce textos completos.

Artículo original · Ficha de AIHOT

Cómo citar

Al citar este artículo, conserva el título, la fecha y el enlace permanente, e indica que la fuente es Orange News.

Orange News: Anthropic abre el código de Petri, herramienta de auditoría de seguridad de IA que prueba automáticamente la alineación de modelos con agentes. 7. octubre 2025. https://new.nat6.net/es/news/hx673sxz7gq2e6uvq7rep6u4r/

Ver todo →