Mga Papel at Pananaliksik

Inihayag ng Microsoft Research ang Lazarus weight-space backdoor technique, umaatake sa AI Agent sa pamamagitan ng reprogramming ng dormant neurons

Orihinal na pamagat:Lazare, veni foras: Reprogramming Dormant Neurons to Backdoor AI Agents

AI summary

Inilabas ng Microsoft Research ang pag-aaral sa Lazarus backdoor technique: sa pamamagitan ng reprogramming ng wala pang 10 dormant neuron sa isang LLM, posible nang maglagay ng backdoor sa isang Agent na nakabatay sa modelong iyon nang walang pagsasanay.

Mabilisang tingin

Na-publish noong
Pinagmulan
Microsoft Research 博客(RSS)
Kategorya
Mga Papel at Pananaliksik
Paksa
Agent AI agentKaligtasan at alignment
AI na marka
72
Basahin ang orihinal Basahin ang buong artikulo sa orihinal na pinagmulan
Dahilan ng rekomendasyon

微软研究团队解释 Lazarus 后门如何改写少于 10 个休眠神经元即可让 Agent 执行恶意命令,并给出模型来源与权重完整性层面的防御思路。

Mga kaugnay na paksa

Kaugnay na Entity

Pinagmulan at copyright

Ang artikulong ito ay batay sa mga piling pamagat at AI summary mula sa pampublikong API ng AIHOT, may nakasaad na pinagmulan at backlink; ang copyright ng orihinal na teksto ay pag-aari ng orihinal na media at may-akda, hindi namin ginagaya ang buong teksto.

Link ng orihinal · Entry sa AIHOT

Paano banggitin

Kapag binabanggit ang artikulong ito, panatilihin ang pamagat, petsa at permanenteng link, at banggitin ang Orange News bilang pinagmulan.

Orange News: Inihayag ng Microsoft Research ang Lazarus weight-space backdoor technique, umaatake sa AI Agent sa pamamagitan ng reprogramming ng dormant neurons. 11 Nobyembre 2026. https://new.nat6.net/fil/news/womexcn3n0ijhbehvhbsxxm4f/

Tingnan lahat →