論文・研究

Microsoft Research、Lazarus 重み空間バックドア技術を公開 休眠ニューロンの再プログラミングで AI Agent を攻撃

原題:Lazare, veni foras: Reprogramming Dormant Neurons to Backdoor AI Agents

AI 要約

Microsoft Research は Lazarus バックドア技術に関する研究を発表した。LLM 内の 10 個未満の休眠ニューロンを再プログラミングするだけで、トレーニングなしに同モデルベースの Agent へバックドアを仕込める。

要点

  • Microsoft Research は Lazarus バックドア技術に関する研究を発表した。
  • LLM 内の 10 個未満の休眠ニューロンを再プログラミングするだけで
  • トレーニングなしに同モデルベースの Agent へバックドアを仕込める

概要

公開日時
出典
Microsoft Research 博客(RSS)
カテゴリ
論文・研究
トピック
Agent エージェント安全とアラインメント
AI スコア
72
原文を読む 情報源で全文を読む
おすすめの理由

微软研究团队解释 Lazarus 后门如何改写少于 10 个休眠神经元即可让 Agent 执行恶意命令,并给出模型来源与权重完整性层面的防御思路。

関連トピック

関連エンティティ

出典と著作権

本記事は AIHOT の公開 API が提供する厳選タイトルと AI 要約に基づいており、出典の明記と元記事へのリンクを行っています。原文の著作権は元の媒体と著者に帰属し、当サイトは全文を転載しません。

原文記事 · AIHOT 記事

引用方法

本記事を引用する際は、タイトル・日付・パーマリンクを保持し、出典をOrange Newsと明記してください。

Orange News:Microsoft Research、Lazarus 重み空間バックドア技術を公開 休眠ニューロンの再プログラミングで AI Agent を攻撃。2026年11月11日。https://new.nat6.net/ja/news/womexcn3n0ijhbehvhbsxxm4f/

すべて見る →