METR dan Redwood Research melakukan red teaming pada sistem pemantauan agen internal OpenAI dan menemukan sejumlah celah
Judul asli:Red-Teaming OpenAI's Internal Agent Monitoring Systems
Ringkasan AI
METR dan Redwood Research masing-masing mengirim satu karyawan untuk melakukan uji tekanan tiga minggu dengan hak akses tinggi terhadap sistem pemantauan misalignment internal OpenAI pada 21 Juli hingga 11 Agustus, yang menghasilkan laporan internal setebal 61 halaman.
Ringkasan cepat
- Waktu terbit
- Waktu diperbarui
- Sumber
- Redwood Research:Blog(RSS)
- Kategori
- Makalah & Riset
- Skor AI
- 78
作者以亲历视角披露对 OpenAI 内部监控系统的压力测试,给出覆盖率估算、漏洞清单和可复用的监控设计原则。
Topik terkait
Entitas Terkait
Sumber dan hak cipta
Artikel ini disusun berdasarkan judul pilihan dan ringkasan AI dari API publik AIHOT, dengan sumber yang dicantumkan dan tautan balik; hak cipta konten asli milik media dan penulis aslinya, situs ini tidak menyalin artikel secara penuh.
Cara mengutip
Saat mengutip artikel ini, sertakan judul, tanggal, dan tautan permanen, serta cantumkan sumber Orange News.
Orange News: METR dan Redwood Research melakukan red teaming pada sistem pemantauan agen internal OpenAI dan menemukan sejumlah celah. 22 Oktober 2026. https://new.nat6.net/id/news/fcw2s1pdclkgm5kmg2qwginp7/