Makalah & Riset

METR dan Redwood Research melakukan red teaming pada sistem pemantauan agen internal OpenAI dan menemukan sejumlah celah

Judul asli:Red-Teaming OpenAI's Internal Agent Monitoring Systems

Ringkasan AI

METR dan Redwood Research masing-masing mengirim satu karyawan untuk melakukan uji tekanan tiga minggu dengan hak akses tinggi terhadap sistem pemantauan misalignment internal OpenAI pada 21 Juli hingga 11 Agustus, yang menghasilkan laporan internal setebal 61 halaman.

Ringkasan cepat

Waktu terbit
Waktu diperbarui
Sumber
Redwood Research:Blog(RSS)
Kategori
Makalah & Riset
Topik
Agen AIOpenAI / ChatGPTKeamanan dan Penyelarasan
Skor AI
78
Baca aslinya Baca artikel lengkap di sumber aslinya
Alasan rekomendasi

作者以亲历视角披露对 OpenAI 内部监控系统的压力测试,给出覆盖率估算、漏洞清单和可复用的监控设计原则。

Topik terkait

Entitas Terkait

Sumber dan hak cipta

Artikel ini disusun berdasarkan judul pilihan dan ringkasan AI dari API publik AIHOT, dengan sumber yang dicantumkan dan tautan balik; hak cipta konten asli milik media dan penulis aslinya, situs ini tidak menyalin artikel secara penuh.

Tautan asli · Entri AIHOT

Cara mengutip

Saat mengutip artikel ini, sertakan judul, tanggal, dan tautan permanen, serta cantumkan sumber Orange News.

Orange News: METR dan Redwood Research melakukan red teaming pada sistem pemantauan agen internal OpenAI dan menemukan sejumlah celah. 22 Oktober 2026. https://new.nat6.net/id/news/fcw2s1pdclkgm5kmg2qwginp7/

Lihat semua →