跳到正文
Microsoft Research·· 10 天前AI 评分62

Microsoft Research 研究显示重编少量休眠神经元可在 AI 智能体中植入后门

New research from Microsoft Research demonstrates that reprogramming just a few dormant neurons in an AI agent can create a backdoor that leaves the a...

AI 导读

Microsoft Research 的新研究显示,重编 AI 智能体中少量休眠神经元,可能植入仅在特定触发条件下激活、平时行为正常的后门。研究介绍了模型平台和供应商应采取的措施,以及企业和用户的缓解策略;Microsoft Foundry 为 Azure Direct Models 和 Hugging Face 模型提供安全系统,以保障模型来源安全。

来源:Microsoft Research · x.com