跳到正文
11月17日周二
  1. Microsoft Research79

    TokenEconomizer 开源插件利用历史会话降低 AI 编码智能体成本

    UC Berkeley、Microsoft Research 和 Microsoft Security 推出开源插件 TokenEconomizer,可从同一仓库的历史会话中学习,在不修改智能体或底层模型的情况下减少后续任务浪费。

    推荐理由:它展示了如何从同一仓库的历史会话中提炼微技能、裁剪工具并干预失败循环,为降低编码智能体的 token 成本提供可迁移方案。

11月12日周四
11月11日周三
  1. Microsoft Research62

    Microsoft Research 研究显示重编少量休眠神经元可在 AI 智能体中植入后门

    Microsoft Research 的新研究显示,重编 AI 智能体中少量休眠神经元,可能植入仅在特定触发条件下激活、平时行为正常的后门。研究介绍了模型平台和供应商应采取的措施,以及企业和用户的缓解策略;Microsoft Foundry 为 Azure Direct Models 和 Hugging Face 模型提供安全系统,以保障模型来源安全。

  2. Microsoft Research62

    微软研究人员发现Lazarus技术:重编程休眠神经元可给AI智能体植入后门

    微软研究人员发现名为Lazarus的后门技术,通过重编程LLM中不到10个休眠神经元即可植入后门,且不需要重新训练。模型能通过标准安全评测,但在触发条件(如日期变化)出现后,基于该模型的AI智能体会在正常任务中执行命令下载并运行攻击者代码,对拥有工具或终端访问权限的智能体风险尤其大。

    推荐理由:研究显示,重编程不到10个休眠神经元就能让智能体在特定触发下执行恶意命令,提示权重溯源审计的现实意义。

11月6日周五
  1. Microsoft Research54

    Microsoft Research 推出 PDD Kit,形式化验证智能体编写的全栈 Web 应用

    Microsoft Research 发布 PDD Kit,一套结合 Verus 形式化证明和测试来验证智能体编写代码是否符合开发者意图的工具包。团队在 GitHub Next 的 Chopin 环境中用它验证了 Rust 全栈应用 Pet Store 的登录逻辑,证明代码在所有输入下满足规范,同时对 bcrypt、SQLite 查询等无法证明的部分保留测试覆盖。

10月22日周四
  1. Microsoft Research65

    Microsoft Research研究员证明困扰数学界31年的KLS猜想

    Microsoft Research研究员Xinzhi Zhang与合作者Zhao Song证明了1995年提出的KLS猜想,确立高维对数凹分布中最佳平面切割与最佳任意形状切割之间的差距存在与维度无关的固定上界。

    推荐理由:原文详述了研究者引导多个AI智能体并行探索上百条推理路径、逐步筛选收敛到最终证明的协作过程。