论文与研究

Microsoft Research 揭示 Lazarus 权重空间后门技术,通过重编程休眠神经元攻击 AI Agent

原文标题:Lazare, veni foras: Reprogramming Dormant Neurons to Backdoor AI Agents

AI 摘要

Microsoft Research 发布对 Lazarus 后门技术的研究,重编程 LLM 中少于 10 个休眠神经元即可在没有训练的情况下给基于该模型的 Agent 安装后门。

关键信息

  • Microsoft Research 发布对 Lazarus 后门技术的研究
  • 重编程 LLM 中少于 10 个休眠神经元即可在没有训练的情况下给基于该模型的 Agent 安装后门
  • 微软研究团队解释 Lazarus 后门如何改写少于 10 个休眠神经元即可让 Agent 执行恶意命令,并给出模型来源与权重完整性层面的防御思路

速览

发布时间
来源
Microsoft Research 博客(RSS)
分类
论文与研究
主题
Agent 智能体安全对齐
AI 评分
72
阅读原文 前往信息源阅读完整正文
推荐理由

微软研究团队解释 Lazarus 后门如何改写少于 10 个休眠神经元即可让 Agent 执行恶意命令,并给出模型来源与权重完整性层面的防御思路。

相关主题

相关实体

来源与版权

本文基于 AIHOT 公开 API 的精选标题与 AI 摘要整理,已注明来源并回链;原文版权归原媒体与作者所有,本站不镜像全文。

原文链接 · AIHOT 条目

如何引用

引用本文时请保留标题、日期与永久链接,并注明来源为橙子新闻。

橙子新闻:Microsoft Research 揭示 Lazarus 权重空间后门技术,通过重编程休眠神经元攻击 AI Agent。2026年11月11日。https://new.nat6.net/news/womexcn3n0ijhbehvhbsxxm4f/

查看全部 →