Red team test ng METR at Redwood Research sa internal agent monitoring system ng OpenAI, natuklasan ang maraming vulnerability
Orihinal na pamagat:Red-Teaming OpenAI's Internal Agent Monitoring Systems
AI summary
Nagpadala ang METR at Redwood Research ng tig-isang empleyado at mula Hulyo 21 hanggang Agosto 11 ay nagsagawa ng tatlong linggong high-privilege pilot stress test sa internal misalignment monitoring system ng OpenAI, na naglabas ng 61-pahinang internal report.
Mabilisang tingin
- Na-publish noong
- Na-update noong
- Pinagmulan
- Redwood Research:Blog(RSS)
- Kategorya
- Mga Papel at Pananaliksik
- AI na marka
- 78
作者以亲历视角披露对 OpenAI 内部监控系统的压力测试,给出覆盖率估算、漏洞清单和可复用的监控设计原则。
Mga kaugnay na paksa
Kaugnay na Entity
Pinagmulan at copyright
Ang artikulong ito ay batay sa mga piling pamagat at AI summary mula sa pampublikong API ng AIHOT, may nakasaad na pinagmulan at backlink; ang copyright ng orihinal na teksto ay pag-aari ng orihinal na media at may-akda, hindi namin ginagaya ang buong teksto.
Paano banggitin
Kapag binabanggit ang artikulong ito, panatilihin ang pamagat, petsa at permanenteng link, at banggitin ang Orange News bilang pinagmulan.
Orange News: Red team test ng METR at Redwood Research sa internal agent monitoring system ng OpenAI, natuklasan ang maraming vulnerability. 22 Oktubre 2026. https://new.nat6.net/fil/news/fcw2s1pdclkgm5kmg2qwginp7/