OpenAI signe avec Apollo Research, METR, Transluce et Goodfire pour lancer la première phase d'évaluations de sécurité intégrées
Titre original:Our first phase of embedded assessments
Résumé IA
OpenAI annonce avoir signé des accords avec quatre organismes d'évaluation indépendants, Apollo Research, METR, Transluce et Goodfire, pour lancer la première phase d'évaluations de sécurité intégrées. Les experts auront accès à des ressources internes telles que les checkpoints des modèles, le code source, les données d'entraînement et les systèmes de surveillance, afin d'évaluer respectivement la possibilité que les modèles contredisent secrètement les intentions des développeurs, l'interprétabilité interne des modèles, les comportements non alignés lors des plus grandes exécutions d'entraînement RL et la couverture qualitative des évaluations d'alignement après entraînement.
Points clés
- OpenAI annonce avoir signé des accords avec quatre organismes d'évaluation indépendants,Apollo…
- Les experts auront accès à des ressources internes telles que les checkpoints des modèles,le code…
- l'interprétabilité interne des modèles,les comportements non alignés lors des plus grandes…
En bref
- Publié
- Mis à jour
- Source
- OpenAI:官网动态(RSS · 排除企业/客户案例)
- Catégorie
- Secteur
- Score IA
- 64
OpenAI 官方披露了四家独立评估机构的评估范围、访问权限和发布规则,读者可以据此了解第三方嵌入式评估的实际运作方式。
Sujets
Entités associées
Source et droits
Cet article s'appuie sur des titres sélectionnés et des résumés IA issus de l'API publique AIHOT, avec attribution et liens de retour. Les droits sur l'original restent ceux des médias et auteurs d'origine ; ce site ne reproduit pas les textes intégraux.
Comment citer
Pour citer cet article, conservez le titre, la date et le lien permanent, et indiquez Orange News comme source.
Orange News : OpenAI signe avec Apollo Research, METR, Transluce et Goodfire pour lancer la première phase d'évaluations de sécurité intégrées. 16. novembre 2026. https://new.nat6.net/fr/news/qaj2npptre8jgn8xanq9ic965/