Anthropic abre el código de Petri, herramienta de auditoría de seguridad de IA que prueba automáticamente la alineación de modelos con agentes
Título original:Petri: An open-source auditing tool to accelerate AI safety research
Resumen de IA
Anthropic publica Petri (Parallel Exploration Tool for Risky Interactions), un marco de auditoría automática de código abierto que emplea agentes auditores de IA para probar el modelo objetivo en escenarios de múltiples turnos; la herramienta está en github.com/safety-research/petri.
Puntos clave
- Anthropic publica Petri (Parallel Exploration Tool for Risky Interactions),un marco de auditoría…
- la herramienta está en github.
- com/safety-research/petri.
Resumen rápido
- Publicado
- Actualizado
- Categoría
- Productos y aplicaciones
- Puntuación IA
- 71
Anthropic 开源了用 AI 智能体自动审计目标模型行为的 Petri 框架,读者可以直接复用其审计流程和评分维度设计。
Entidades relacionadas
Fuente y derechos
Este artículo se basa en títulos seleccionados y resúmenes de IA de la API pública de AIHOT, con atribución y enlaces de vuelta. Los derechos del original pertenecen a los medios y autores originales; este sitio no reproduce textos completos.
Cómo citar
Al citar este artículo, conserva el título, la fecha y el enlace permanente, e indica que la fuente es Orange News.
Orange News: Anthropic abre el código de Petri, herramienta de auditoría de seguridad de IA que prueba automáticamente la alineación de modelos con agentes. 7. octubre 2025. https://new.nat6.net/es/news/hx673sxz7gq2e6uvq7rep6u4r/