METR dan Redwood Research menguji sistem pemantauan ejen dalaman OpenAI secara red team, menemui beberapa kelemahan
Tajuk asal:Red-Teaming OpenAI's Internal Agent Monitoring Systems
Ringkasan AI
METR dan Redwood Research masing-masing menghantar seorang pekerja untuk menjalankan ujian tekanan percubaan tiga minggu dengan keistimewaan tinggi terhadap sistem pemantauan ketidakselarasan dalaman OpenAI dari 21 Julai hingga 11 Ogos, menghasilkan laporan dalaman 61 halaman.
Sekilas pandang
- Diterbitkan pada
- Dikemas kini pada
- Sumber
- Redwood Research:Blog(RSS)
- Kategori
- Kertas penyelidikan
- Skor AI
- 78
作者以亲历视角披露对 OpenAI 内部监控系统的压力测试,给出覆盖率估算、漏洞清单和可复用的监控设计原则。
Topik berkaitan
Entiti Berkaitan
Sumber dan hak cipta
Artikel ini disusun berdasarkan tajuk pilihan dan ringkasan AI daripada API awam AIHOT, dengan sumber dinyatakan dan pautan balik disediakan; hak cipta teks asal milik media dan penulis asal, laman ini tidak menyalin penuh teks penuh.
Cara memetik
Apabila memetik artikel ini, kekalkan tajuk, tarikh dan pautan kekal, serta nyatakan sumber sebagai Orange News.
Orange News: METR dan Redwood Research menguji sistem pemantauan ejen dalaman OpenAI secara red team, menemui beberapa kelemahan. 22 Oktober 2026. https://new.nat6.net/ms/news/fcw2s1pdclkgm5kmg2qwginp7/