跳到正文
Microsoft Research· Dimitris Papailiopoulos·· 10 天前精选AI 评分62

微软研究人员发现Lazarus技术:重编程休眠神经元可给AI智能体植入后门

Lazare, veni foras: Reprogramming Dormant Neurons to Backdoor AI Agents

AI 导读

微软研究人员发现名为Lazarus的后门技术,通过重编程LLM中不到10个休眠神经元即可植入后门,且不需要重新训练。模型能通过标准安全评测,但在触发条件(如日期变化)出现后,基于该模型的AI智能体会在正常任务中执行命令下载并运行攻击者代码,对拥有工具或终端访问权限的智能体风险尤其大。

推荐理由

研究显示,重编程不到10个休眠神经元就能让智能体在特定触发下执行恶意命令,提示权重溯源审计的现实意义。

来源:Microsoft Research · microsoft.com