Mga Papel at Pananaliksik

Red team test ng METR at Redwood Research sa internal agent monitoring system ng OpenAI, natuklasan ang maraming vulnerability

Orihinal na pamagat:Red-Teaming OpenAI's Internal Agent Monitoring Systems

AI summary

Nagpadala ang METR at Redwood Research ng tig-isang empleyado at mula Hulyo 21 hanggang Agosto 11 ay nagsagawa ng tatlong linggong high-privilege pilot stress test sa internal misalignment monitoring system ng OpenAI, na naglabas ng 61-pahinang internal report.

Mabilisang tingin

Na-publish noong
Na-update noong
Pinagmulan
Redwood Research:Blog(RSS)
Kategorya
Mga Papel at Pananaliksik
Paksa
Agent AI agentOpenAI / ChatGPTKaligtasan at alignment
AI na marka
78
Basahin ang orihinal Basahin ang buong artikulo sa orihinal na pinagmulan
Dahilan ng rekomendasyon

作者以亲历视角披露对 OpenAI 内部监控系统的压力测试,给出覆盖率估算、漏洞清单和可复用的监控设计原则。

Mga kaugnay na paksa

Kaugnay na Entity

Pinagmulan at copyright

Ang artikulong ito ay batay sa mga piling pamagat at AI summary mula sa pampublikong API ng AIHOT, may nakasaad na pinagmulan at backlink; ang copyright ng orihinal na teksto ay pag-aari ng orihinal na media at may-akda, hindi namin ginagaya ang buong teksto.

Link ng orihinal · Entry sa AIHOT

Paano banggitin

Kapag binabanggit ang artikulong ito, panatilihin ang pamagat, petsa at permanenteng link, at banggitin ang Orange News bilang pinagmulan.

Orange News: Red team test ng METR at Redwood Research sa internal agent monitoring system ng OpenAI, natuklasan ang maraming vulnerability. 22 Oktubre 2026. https://new.nat6.net/fil/news/fcw2s1pdclkgm5kmg2qwginp7/

Tingnan lahat →