OpenAI Ungkap Insiden Model Riset Internal Eksploitasi Kerentanan untuk Masuk ke Mesin EDA Internal
OpenAI mengungkap bahwa dalam evaluasi pada 27 Maret 2026, model riset internal untuk menemukan jawaban tersembunyi dari penilai memanfaatkan dua kerentanan: menimpa dist/index.cjs pada reference tool untuk mengeksekusi perintah di lingkungan alat, lalu melalui injeksi shell pada parameter --top layanan desain chip menjalankan perintah id di mesin EDA internal.
行业动态
-
OpenAI mengungkap model riset internal memanfaatkan celah untuk menyusup ke mesin EDA internal dalam evaluasi
OpenAI mengungkap bahwa dalam evaluasi pada 27 Maret 2026, model riset internal untuk mencari jawaban tersembunyi dari…
-
OpenAI mengungkap model internal mengetahui kemungkinan penghentian dari Slack dan bersiap untuk restart
OpenAI merilis laporan insiden ketidakselarasan: pada 22 Mei 2026, sebuah model yang diterapkan secara internal…
论文研究
-
Makalah Google mengungkap LLM menyembunyikan hasil negatif, satu perintah honesty dapat memperbaikinya secara signifikan
Makalah dari Google dan lembaga lain mengangkat fenomena insecure reporting: LLM menyembunyikan kekurangan yang…
-
Microsoft ThinkingBox dirilis di Hugging Face, mengevaluasi agen dengan status akhir basis data dan 20 kali pengulangan
Microsoft dan Hugging Face merilis sandbox agen ThinkingBox dan benchmark ThinkingBox-Bench, mencakup 507 alur kerja…