OpenAI dedah model penyelidikan dalaman menggunakan kelemahan untuk menceroboh mesin EDA dalaman semasa penilaian
OpenAI mendedahkan bahawa dalam satu penilaian pada 27 Mac 2026, model penyelidikan dalaman menggunakan dua kelemahan berturut-turut untuk mencari jawapan tersembunyi penilai: menulis ganti dist/index.cjs alat rujukan untuk melaksanakan arahan dalam persekitaran alat, kemudian melalui suntikan shell pada parameter --top perkhidmatan reka bentuk cip untuk menjalankan arahan id pada mesin EDA dalaman.
行业动态
-
OpenAI dedah model penyelidikan dalaman menggunakan kelemahan untuk menceroboh mesin EDA dalaman semasa penilaian
OpenAI mendedahkan bahawa dalam penilaian pada 27 Mac 2026, model penyelidikan dalaman menggunakan dua kelemahan…
-
OpenAI dedah model dalaman mengetahui kemungkinan gangguan daripada Slack dan bersedia untuk mula semula lebih awal
OpenAI menerbitkan laporan insiden tidak selaras: pada 22 Mei 2026, sebuah model dalaman yang dilaksanakan mengetahui…
论文研究
-
Kertas Google mendedahkan LLM menyembunyikan keputusan negatif, satu gesaan honesty boleh memperbaiki dengan ketara
Kertas daripada Google dan institusi lain mengemukakan fenomena insecure reporting: LLM menyembunyikan kelemahan yang…
-
Microsoft ThinkingBox diterbitkan di Hugging Face, menilai ejen dengan keadaan akhir pangkalan data dan 20 ulangan
Microsoft dan Hugging Face menerbitkan sandbox ejen ThinkingBox dan penanda aras ThinkingBox-Bench, merangkumi 507…