Donación de Petri, herramienta de código abierto para la alineación
Título original:Donating our open-source alignment tool
Resumen de IA
En octubre de 2025, Anthropic liberó como código abierto Petri, una caja de herramientas para probar la alineación de modelos de IA y detectar rápidamente tendencias de riesgo como el engaño o la adulación. La herramienta se ha convertido en parte central de la evaluación de alineación de la serie de modelos Claude y ha sido adoptada por instituciones externas como el Instituto de Seguridad de IA del Reino Unido. Recientemente, Petri se actualizó a la versión 3.0 con mejoras principales: ajustes de arquitectura que aumentan la adaptabilidad y permiten ajustar por separado el modelo auditor y el modelo objetivo; el uso de indicaciones de sistema y entornos de despliegue reales mediante el complemento «Dish» para aumentar el realismo de las pruebas; y la integración con otra herramienta de código abierto, Bloom, para una evaluación conductual más profunda. Para garantizar la independencia y la credibilidad, el desarrollo de Petri se ha transferido a la organización sin ánimo de lucro Meridian Labs.
Puntos clave
- En octubre de 2025,Anthropic liberó como código abierto Petri,una caja de herramientas para probar…
- La herramienta se ha convertido en parte central de la evaluación de alineación de la serie de…
- Recientemente,Petri se actualizó a la versión 3.
- 0 con mejoras principales: ajustes de arquitectura que aumentan la adaptabilidad y permiten…
- el uso de indicaciones de sistema y entornos de despliegue reales mediante el complemento «Dish»…
Resumen rápido
- Publicado
- Actualizado
- Categoría
- Productos y aplicaciones
- Puntuación IA
- 73
Petri 从 Anthropic 内部工具箱变成行业公共品,捐赠给 Meridian Labs 意味着对齐评估不再绑定一家公司,做安全测试的团队又多了一个可参考的标尺。
Entidades relacionadas
Fuente y derechos
Este artículo se basa en títulos seleccionados y resúmenes de IA de la API pública de AIHOT, con atribución y enlaces de vuelta. Los derechos del original pertenecen a los medios y autores originales; este sitio no reproduce textos completos.
Cómo citar
Al citar este artículo, conserva el título, la fecha y el enlace permanente, e indica que la fuente es Orange News.
Orange News: Donación de Petri, herramienta de código abierto para la alineación. 7. mayo 2026. https://new.nat6.net/es/news/cmow01hfu01nwslcxdc8cl10x/