Productos y aplicaciones

Donación de Petri, herramienta de código abierto para la alineación

Título original:Donating our open-source alignment tool

Resumen de IA

En octubre de 2025, Anthropic liberó como código abierto Petri, una caja de herramientas para probar la alineación de modelos de IA y detectar rápidamente tendencias de riesgo como el engaño o la adulación. La herramienta se ha convertido en parte central de la evaluación de alineación de la serie de modelos Claude y ha sido adoptada por instituciones externas como el Instituto de Seguridad de IA del Reino Unido. Recientemente, Petri se actualizó a la versión 3.0 con mejoras principales: ajustes de arquitectura que aumentan la adaptabilidad y permiten ajustar por separado el modelo auditor y el modelo objetivo; el uso de indicaciones de sistema y entornos de despliegue reales mediante el complemento «Dish» para aumentar el realismo de las pruebas; y la integración con otra herramienta de código abierto, Bloom, para una evaluación conductual más profunda. Para garantizar la independencia y la credibilidad, el desarrollo de Petri se ha transferido a la organización sin ánimo de lucro Meridian Labs.

Puntos clave

  • En octubre de 2025,Anthropic liberó como código abierto Petri,una caja de herramientas para probar…
  • La herramienta se ha convertido en parte central de la evaluación de alineación de la serie de…
  • Recientemente,Petri se actualizó a la versión 3.
  • 0 con mejoras principales: ajustes de arquitectura que aumentan la adaptabilidad y permiten…
  • el uso de indicaciones de sistema y entornos de despliegue reales mediante el complemento «Dish»…

Resumen rápido

Publicado
Actualizado
Fuente
Anthropic:Research(发表成果 · 网页)
Categoría
Productos y aplicaciones
Puntuación IA
73
Leer el original Leer el artículo completo en la fuente original
Por qué importa

Petri 从 Anthropic 内部工具箱变成行业公共品,捐赠给 Meridian Labs 意味着对齐评估不再绑定一家公司,做安全测试的团队又多了一个可参考的标尺。

Entidades relacionadas

Fuente y derechos

Este artículo se basa en títulos seleccionados y resúmenes de IA de la API pública de AIHOT, con atribución y enlaces de vuelta. Los derechos del original pertenecen a los medios y autores originales; este sitio no reproduce textos completos.

Artículo original · Ficha de AIHOT

Cómo citar

Al citar este artículo, conserva el título, la fecha y el enlace permanente, e indica que la fuente es Orange News.

Orange News: Donación de Petri, herramienta de código abierto para la alineación. 7. mayo 2026. https://new.nat6.net/es/news/cmow01hfu01nwslcxdc8cl10x/

Ver todo →