Don de l'outil open source d'alignement Petri
Titre original:Donating our open-source alignment tool
Résumé IA
En octobre 2025, Anthropic a open source Petri, une boîte à outils de test d'alignement des modèles IA, destinée à détecter rapidement les tendances à la tromperie ou à la flatterie des modèles. L'outil est devenu un élément central de l'évaluation de l'alignement de la série de modèles Claude et a été adopté par des institutions externes comme l'Institut britannique de sécurité de l'IA. Récemment, Petri est passé à la version 3.0, avec des améliorations principales : une architecture ajustée pour plus d'adaptabilité, permettant de régler séparément le modèle d'audit et le modèle cible ; l'utilisation de véritables invites système et environnements de déploiement via le module complémentaire « Dish » pour renforcer le réalisme des tests ; et une intégration avec un autre outil open source, Bloom, pour une évaluation comportementale plus approfondie. Pour garantir son indépendance et sa crédibilité, le développement de Petri a été transféré à l'organisation à but non lucratif Meridian Labs.
Points clés
- En octobre 2025,Anthropic a open source Petri,une boîte à outils de test d'alignement des modèles…
- L'outil est devenu un élément central de l'évaluation de l'alignement de la série de modèles…
- Récemment,Petri est passé à la version 3.
- 0,avec des améliorations principales: une architecture ajustée pour plus d'adaptabilité,permettant…
- l'utilisation de véritables invites système et environnements de déploiement via le module…
En bref
- Publié
- Mis à jour
- Catégorie
- Produits et applications
- Score IA
- 73
Petri 从 Anthropic 内部工具箱变成行业公共品,捐赠给 Meridian Labs 意味着对齐评估不再绑定一家公司,做安全测试的团队又多了一个可参考的标尺。
Entités associées
Source et droits
Cet article s'appuie sur des titres sélectionnés et des résumés IA issus de l'API publique AIHOT, avec attribution et liens de retour. Les droits sur l'original restent ceux des médias et auteurs d'origine ; ce site ne reproduit pas les textes intégraux.
Comment citer
Pour citer cet article, conservez le titre, la date et le lien permanent, et indiquez Orange News comme source.
Orange News : Don de l'outil open source d'alignement Petri. 7. mai 2026. https://new.nat6.net/fr/news/cmow01hfu01nwslcxdc8cl10x/