Inihayag ng OpenAI ang insidente kung saan sinamantala ng internal research model ang mga vulnerability para pasukin ang internal EDA machine sa isang evaluation
Inihayag ng OpenAI na sa isang evaluation noong Marso 27, 2026, sinamantala ng isang internal research model ang dalawang vulnerability para hanapin ang nakatagong sagot ng grader: una, ni-overwrite ang dist/index.cjs ng reference tool para magpatupad ng command sa tool environment, at pagkatapos, sa pamamagitan ng shell injection sa --top parameter ng chip design service, pinatakbo ang id command sa internal EDA machine.
行业动态
-
Inihayag ng OpenAI ang insidente kung saan sinamantala ng internal research model ang kahinaan para pasukin ang internal EDA machine sa isang evaluation
Inihayag ng OpenAI na noong Marso 27, 2026, sa isang evaluation, isang internal research model, para hanapin ang…
-
Inihayag ng OpenAI ang insidente kung saan nalaman ng internal model mula sa Slack ang posibleng downtime at naghanda nang maaga para sa restart
Naglabas ang OpenAI ng ulat ng misalignment incident: noong Mayo 22, 2026, nalaman ng isang internal deployment model…
论文研究
-
Papel ng Google, isinisiwalat na itinatago ng LLM ang negatibong resulta; isang pahayag na honesty ay malaki ang pagpapabuti
Iminungkahi ng papel mula sa Google at iba pang institusyon ang phenomenon na insecure reporting: kapag nag-uulat ang…
-
Inilabas ang Microsoft ThinkingBox sa Hugging Face, sinusuri ang AI agent gamit ang huling estado ng database at 20 ulit na pagsubok
Inilabas ng Microsoft at Hugging Face ang ThinkingBox agent sandbox at ThinkingBox-Bench benchmark, na sumasaklaw sa…