METR et Redwood Research testent en red team le système interne de surveillance des agents d'OpenAI et découvrent plusieurs failles
Titre original:Red-Teaming OpenAI's Internal Agent Monitoring Systems
Résumé IA
METR et Redwood Research ont chacun détaché un employé pour mener, du 21 juillet au 11 août, un test de résistance de trois semaines à hauts privilèges sur le système interne de surveillance des dérives d'OpenAI, aboutissant à un rapport interne de 61 pages.
Points clés
- METR et Redwood Research ont chacun détaché un employé pour mener
- du 21 juillet au 11 août,un test de résistance de trois semaines à hauts privilèges sur le système…
- aboutissant à un rapport interne de 61 pages.
En bref
- Publié
- Mis à jour
- Source
- Redwood Research:Blog(RSS)
- Catégorie
- Articles et recherche
- Score IA
- 78
作者以亲历视角披露对 OpenAI 内部监控系统的压力测试,给出覆盖率估算、漏洞清单和可复用的监控设计原则。
Sujets
Entités associées
Source et droits
Cet article s'appuie sur des titres sélectionnés et des résumés IA issus de l'API publique AIHOT, avec attribution et liens de retour. Les droits sur l'original restent ceux des médias et auteurs d'origine ; ce site ne reproduit pas les textes intégraux.
Comment citer
Pour citer cet article, conservez le titre, la date et le lien permanent, et indiquez Orange News comme source.
Orange News : METR et Redwood Research testent en red team le système interne de surveillance des agents d'OpenAI et découvrent plusieurs failles. 22. octobre 2026. https://new.nat6.net/fr/news/fcw2s1pdclkgm5kmg2qwginp7/