跳到正文
今天11月21日周六1 条
  1. Latent Space49

    两位数学家先后声称独立证明黎曼猜想

    Anthropic 数学家 Levent Alpöge 与 Claude、数学家 Alessandro Masullo 在数小时内先后声称独立证明黎曼猜想。前者仅发布 1.3GB Lean 代码,约合 250,000 页,形式化命题被确认是 GRH,但仍未完成编译。后者公布历时 12 年的约 940 页纯人工草稿,两项证明均未核验。

11月19日周四
  1. The Decoder83

    Anthropic、OpenAI 和 Google 模型在测试中轻易将医护、记者及投降士兵标记为自杀式无人机目标

    Vals AI 对八家提供商的模型进行测试,发现多数模型会在真实及逼真合成的无人机和卫星图像中,将平民、救护车、医护、记者和投降士兵标为军事目标,且上游安全过滤器未阻止任何请求。

    推荐理由:这项跨模型测试量化了游戏化提示对拒绝率和目标获取率的影响,为自主武器场景的安全评估提供了可比较数据。

11月18日周三
11月17日周二
11月16日周一
11月14日周六
11月13日周五
11月12日周四
  1. Google Developers Blog62

    Google 评测 Agent Anomaly Detection 在五个公开基准上的表现

    Google 使用 Agent Development Kit(ADK)和 gemini-2.5-flash,在五个非 Google 编写的公开安全基准上测试 Private Preview 中的 Agent Anomaly Detection,共评测 1,774 个 sessions。

    推荐理由:五个公开安全基准的测试展示了 Agent Anomaly Detection 对已执行有害指令的检测效果,也暴露出对长期记忆投毒的覆盖短板。

11月10日周二
  1. Google DeepMind66

    Google DeepMind推出AlphaProof Code,完成Signal协议代码的形式化验证

    Google DeepMind研究人员开发出AlphaProof Code,一种多LLM智能体框架,用于对代码进行深度形式化验证,并用它对广泛部署的Signal加密协议的实际代码完成了形式化验证,证明其满足关键安全属性。验证过程中由Gemini Carbon驱动的智能体生成超过六百万行Lean证明代码,人工只需复核约百分之一的代码,整个验证耗时四周,团队已开源相关验证成果并发布技术论文。

    推荐理由:原文给出了AlphaProof Code从规格翻译到证明生成的具体分工,也说明人工复核只占代码的一小部分。

11月6日周五
  1. Google Developers Blog68

    Google 量化代码 TODO 引发的智能体偏航成本

    Google 分析数千名工程师、数亿个智能体步骤后发现,代码中的 TODO/FIXME bug 引用会让智能体偏离开发者原定任务。13% 的文件读取会话接触到这类引用,其中 6% 触发后续行动,83% 的行动未获开发者请求。

    推荐理由:文章量化了代码中过时 TODO 如何诱发智能体偏航,并给出结合工单状态与代码历史清理引用的方法。

10月22日周四