Articles et recherche

METR et Redwood Research testent en red team le système interne de surveillance des agents d'OpenAI et découvrent plusieurs failles

Titre original:Red-Teaming OpenAI's Internal Agent Monitoring Systems

Résumé IA

METR et Redwood Research ont chacun détaché un employé pour mener, du 21 juillet au 11 août, un test de résistance de trois semaines à hauts privilèges sur le système interne de surveillance des dérives d'OpenAI, aboutissant à un rapport interne de 61 pages.

Points clés

  • METR et Redwood Research ont chacun détaché un employé pour mener
  • du 21 juillet au 11 août,un test de résistance de trois semaines à hauts privilèges sur le système…
  • aboutissant à un rapport interne de 61 pages.

En bref

Publié
Mis à jour
Source
Redwood Research:Blog(RSS)
Catégorie
Articles et recherche
Sujet
AgentsOpenAI / ChatGPTSécurité et alignement
Score IA
78
Lire l'original Lire l'article complet à la source d'origine
Pourquoi c'est important

作者以亲历视角披露对 OpenAI 内部监控系统的压力测试,给出覆盖率估算、漏洞清单和可复用的监控设计原则。

Sujets

Entités associées

Source et droits

Cet article s'appuie sur des titres sélectionnés et des résumés IA issus de l'API publique AIHOT, avec attribution et liens de retour. Les droits sur l'original restent ceux des médias et auteurs d'origine ; ce site ne reproduit pas les textes intégraux.

Article original · Fiche AIHOT

Comment citer

Pour citer cet article, conservez le titre, la date et le lien permanent, et indiquez Orange News comme source.

Orange News : METR et Redwood Research testent en red team le système interne de surveillance des agents d'OpenAI et découvrent plusieurs failles. 22. octobre 2026. https://new.nat6.net/fr/news/fcw2s1pdclkgm5kmg2qwginp7/

Tout voir →