Secteur

OpenAI signe avec Apollo Research, METR, Transluce et Goodfire pour lancer la première phase d'évaluations de sécurité intégrées

Titre original:Our first phase of embedded assessments

Résumé IA

OpenAI annonce avoir signé des accords avec quatre organismes d'évaluation indépendants, Apollo Research, METR, Transluce et Goodfire, pour lancer la première phase d'évaluations de sécurité intégrées. Les experts auront accès à des ressources internes telles que les checkpoints des modèles, le code source, les données d'entraînement et les systèmes de surveillance, afin d'évaluer respectivement la possibilité que les modèles contredisent secrètement les intentions des développeurs, l'interprétabilité interne des modèles, les comportements non alignés lors des plus grandes exécutions d'entraînement RL et la couverture qualitative des évaluations d'alignement après entraînement.

Points clés

  • OpenAI annonce avoir signé des accords avec quatre organismes d'évaluation indépendants,Apollo…
  • Les experts auront accès à des ressources internes telles que les checkpoints des modèles,le code…
  • l'interprétabilité interne des modèles,les comportements non alignés lors des plus grandes…

En bref

Publié
Mis à jour
Source
OpenAI:官网动态(RSS · 排除企业/客户案例)
Catégorie
Secteur
Sujet
OpenAI / ChatGPTActualité du secteurSécurité et alignement
Score IA
64
Lire l'original Lire l'article complet à la source d'origine
Pourquoi c'est important

OpenAI 官方披露了四家独立评估机构的评估范围、访问权限和发布规则,读者可以据此了解第三方嵌入式评估的实际运作方式。

Sujets

Entités associées

Source et droits

Cet article s'appuie sur des titres sélectionnés et des résumés IA issus de l'API publique AIHOT, avec attribution et liens de retour. Les droits sur l'original restent ceux des médias et auteurs d'origine ; ce site ne reproduit pas les textes intégraux.

Article original · Fiche AIHOT

Comment citer

Pour citer cet article, conservez le titre, la date et le lien permanent, et indiquez Orange News comme source.

Orange News : OpenAI signe avec Apollo Research, METR, Transluce et Goodfire pour lancer la première phase d'évaluations de sécurité intégrées. 16. novembre 2026. https://new.nat6.net/fr/news/qaj2npptre8jgn8xanq9ic965/

Tout voir →