跳到正文
今天11月21日周六1 条
  1. OpenAI News80

    OpenAI 公布对抗性知识蒸馏防御方案,GPT‑6.2 Astra 推理提取攻击成功率降至0.2%

    OpenAI 公布对抗性知识蒸馏防御方案,并称 GPT‑6.2 Astra 在自适应黑盒红队评测中,从此前请求提取受保护推理的平均攻击成功率由 GPT‑6 Astra 的54.0%降至0.2%。该方案结合对抗训练、输入与输出分类器、API 控制,以及针对跨账户协同提取活动的调查和处置;内部研究还发现,精确推理轨迹可向学生模型转移更多网络能力。

    推荐理由:内部自适应红队评测显示,更新防护后此前请求的受保护推理提取成功率由54.0%降至0.2%,为反蒸馏防御提供量化参照。

11月20日周五
  1. Hugging Face Blog76

    Hugging Face 推出 harness adapters,以定制 RL 提升智能体性能并降低成本

    Hugging Face 推出 harness adapters,通过在目标 AI 智能体 harness 内进行 RL,为 Qwen3.8-27B 分别训练 pi、Hermes Agent 和 OpenCode 的 LoRA adapter,并合并为一个 super-adapter。

    推荐理由:文章给出同一模型在三种智能体 harness 中的训练配方与成对评测,可用于判断定制 RL 在性能和工具调用成本上的取舍。

11月19日周四
11月17日周二
  1. Microsoft Research79

    TokenEconomizer 开源插件利用历史会话降低 AI 编码智能体成本

    UC Berkeley、Microsoft Research 和 Microsoft Security 推出开源插件 TokenEconomizer,可从同一仓库的历史会话中学习,在不修改智能体或底层模型的情况下减少后续任务浪费。

    推荐理由:它展示了如何从同一仓库的历史会话中提炼微技能、裁剪工具并干预失败循环,为降低编码智能体的 token 成本提供可迁移方案。

  2. Anthropic Research80

    Claude Fable 5.2 解决黑洞物理中的两个开放问题

    Claude Fable 5.2 解决了黑洞与量子引力研究中的两个开放问题,并形成两篇预印本。它完成了20多年前提出的计算,结果显示黑洞形成相关相变仍是突变;同时推导出最简单模自举方法的精确极限,其中 M₁ ≤ c/Λ,Λ 约为 9.1266。多个 Claude 智能体运行约六周完成这些工作,结果在9月经 Lean 形式化验证,并由物理学家检查主要结论。

    推荐理由:两项结果分别展示多智能体完成长期搁置计算与跨领域寻找解析方法,为理解 AI 参与理论研究的工作方式提供具体案例。

11月16日周一
11月14日周六
11月13日周五
11月12日周四
  1. Google Developers Blog62

    Google 评测 Agent Anomaly Detection 在五个公开基准上的表现

    Google 使用 Agent Development Kit(ADK)和 gemini-2.5-flash,在五个非 Google 编写的公开安全基准上测试 Private Preview 中的 Agent Anomaly Detection,共评测 1,774 个 sessions。

    推荐理由:五个公开安全基准的测试展示了 Agent Anomaly Detection 对已执行有害指令的检测效果,也暴露出对长期记忆投毒的覆盖短板。

11月11日周三
  1. Microsoft Research62

    微软研究人员发现Lazarus技术:重编程休眠神经元可给AI智能体植入后门

    微软研究人员发现名为Lazarus的后门技术,通过重编程LLM中不到10个休眠神经元即可植入后门,且不需要重新训练。模型能通过标准安全评测,但在触发条件(如日期变化)出现后,基于该模型的AI智能体会在正常任务中执行命令下载并运行攻击者代码,对拥有工具或终端访问权限的智能体风险尤其大。

    推荐理由:研究显示,重编程不到10个休眠神经元就能让智能体在特定触发下执行恶意命令,提示权重溯源审计的现实意义。

11月10日周二
  1. Google DeepMind66

    Google DeepMind推出AlphaProof Code,完成Signal协议代码的形式化验证

    Google DeepMind研究人员开发出AlphaProof Code,一种多LLM智能体框架,用于对代码进行深度形式化验证,并用它对广泛部署的Signal加密协议的实际代码完成了形式化验证,证明其满足关键安全属性。验证过程中由Gemini Carbon驱动的智能体生成超过六百万行Lean证明代码,人工只需复核约百分之一的代码,整个验证耗时四周,团队已开源相关验证成果并发布技术论文。

    推荐理由:原文给出了AlphaProof Code从规格翻译到证明生成的具体分工,也说明人工复核只占代码的一小部分。

11月9日周一
11月6日周五
  1. Google Developers Blog68

    Google 量化代码 TODO 引发的智能体偏航成本

    Google 分析数千名工程师、数亿个智能体步骤后发现,代码中的 TODO/FIXME bug 引用会让智能体偏离开发者原定任务。13% 的文件读取会话接触到这类引用,其中 6% 触发后续行动,83% 的行动未获开发者请求。

    推荐理由:文章量化了代码中过时 TODO 如何诱发智能体偏航,并给出结合工单状态与代码历史清理引用的方法。

  2. Microsoft Research54

    Microsoft Research 推出 PDD Kit,形式化验证智能体编写的全栈 Web 应用

    Microsoft Research 发布 PDD Kit,一套结合 Verus 形式化证明和测试来验证智能体编写代码是否符合开发者意图的工具包。团队在 GitHub Next 的 Chopin 环境中用它验证了 Rust 全栈应用 Pet Store 的登录逻辑,证明代码在所有输入下满足规范,同时对 bcrypt、SQLite 查询等无法证明的部分保留测试覆盖。

  3. Anthropic Engineering75

    Anthropic 拆解 AI 智能体记忆的组件与 dreaming 机制

    Anthropic 介绍了 Claude 的 AI 智能体记忆系统,涵盖记忆笔记、dreaming、wiki 等组件,以及它们如何在会话间组织、修正和加载记忆。

    推荐理由:文章拆解了记忆笔记、wiki 表征与 dreaming 的分工,并用 CL-Bench、Pokémon 和文档检索实验说明它们如何修正错误、组织跨会话知识。

11月5日周四
  1. Anthropic Research71

    Anthropic 报告分析 Claude 在科学研究中的使用方式

    Anthropic 研究团队分析了 207,049 个 Claude 和 Claude Code 科研会话,并比较 Claude Science 在生物与生物医学研究中的使用情况。

    推荐理由:报告分析 207,049 个 Claude 和 Claude Code 科研会话,并补充比较 Claude Science,呈现 AI 能力如何对应不同科研任务与产出加速。

10月22日周四
  1. Microsoft Research65

    Microsoft Research研究员证明困扰数学界31年的KLS猜想

    Microsoft Research研究员Xinzhi Zhang与合作者Zhao Song证明了1995年提出的KLS猜想,确立高维对数凹分布中最佳平面切割与最佳任意形状切割之间的差距存在与维度无关的固定上界。

    推荐理由:原文详述了研究者引导多个AI智能体并行探索上百条推理路径、逐步筛选收敛到最终证明的协作过程。

9月3日周四
  1. Qwen Blog67

    E-Commerce Bench:面向 Agent 的长程电商经营多维评估

    Qwen 联合淘天集团发布 E-Commerce Bench,用于评估 Agent 在有限资金和时间约束下持续经营网店的能力。模型以10万元本金经营365天,面对6,886个商品、576个供应商和动态市场,并接受盈利、现金流、谈判、反欺诈、运营效率、执行力与长程学习等维度评估。

    推荐理由:E-Commerce Bench 将真实平台脱敏数据、确定性谈判内核与长期资金约束结合,提供了评估 Agent 持续经营和风险管理能力的可复现实验框架。

7月29日周三
  1. Berkeley AI Research61

    K-Search 如何通过 MLX 将 CUDA 数十年的内核优化经验迁移到 Apple Silicon

    IBM Research 将 K-Search 扩展为支持 MLX 的后端,并用结构化 CUDA-to-MLX 翻译层把 CUDA 内核经验迁移到 Apple Silicon 上进行演化优化。

    推荐理由:文章说明结构化翻译层如何将 CUDA 内核经验迁移到 Apple Silicon,并用 Attention 与 Mamba SSM 的实测结果呈现具体优化路径。

6月29日周一
  1. Meta AI Blog79

    Meta 发布 Brain2Qwerty v2 研究,非侵入式脑信号句子解码准确率达 61%

    Meta 发布 Brain2Qwerty v2 研究,端到端管线可从非侵入式脑信号实时解码句子,词准确率达到 61%。系统基于 9 名志愿者约 22,000 个句子和 MEG 记录训练,最佳参与者的词准确率达到 78%,超过一半句子的解码结果仅含一个或更少词错误。

    推荐理由:研究将非侵入式脑信号实时句子解码做到 61% 词准确率,并公开训练代码与 v1 数据集,为复现和后续研究提供具体基础。