Gemini Platform Agent Anomaly Detection 实操指南:检测智能体异常行为
Google 通过实操指南讲解如何在 Gemini Platform 上配置 Agent Anomaly Detection,并用一组正常会话和一组越界会话验证异常检测。
推荐理由:通过正常与越界会话的对照演练,展示如何用现有遥测定位智能体工具滥用,并将检测结果接入现有告警流程。
技术方向
能自己拆解任务、调用工具、一步步把事办完的 AI 智能体:Claude Code、Manus 等应用,各家 Agent 框架与评测。
63 条精选近 30 天 49 条共收录 266 条
Google 通过实操指南讲解如何在 Gemini Platform 上配置 Agent Anomaly Detection,并用一组正常会话和一组越界会话验证异常检测。
推荐理由:通过正常与越界会话的对照演练,展示如何用现有遥测定位智能体工具滥用,并将检测结果接入现有告警流程。
UC Berkeley、Microsoft Research 和 Microsoft Security 推出开源插件 TokenEconomizer,可从同一仓库的历史会话中学习,在不修改智能体或底层模型的情况下减少后续任务浪费。
推荐理由:它展示了如何从同一仓库的历史会话中提炼微技能、裁剪工具并干预失败循环,为降低编码智能体的 token 成本提供可迁移方案。
Google 讲解了如何按 AI 智能体会话而非 Web 请求为 GKE 节点池规划容量,并介绍 Agent Substrate 和 AX 如何在会话等待时停放沙箱、释放计算资源。
推荐理由:文章用100个编码智能体的成本模型说明,应按实际占用 worker 的会话配置节点池,并以最繁忙时段的提示频率校准容量。
Amazon Bedrock Managed Knowledge Base 现已支持表格搜索,可通过智能体检索读取 CSV、XLSX 和 XLS 文件的完整表格,并结合相关文档回答多步分析问题。
推荐理由:文章拆解了表格搜索先检索定位文件、再在隔离沙箱中读取整表计算的机制,并提供文件选择与审计追踪方法。
Google Maps 为 Ask Maps 新增自定义公路旅行行程、实时路线提示、预约查找和收藏列表搜索,用户还可让其在线查找空档并致电本地商家。更新从今天起在 Android 和 iOS 推出,Ask Maps 同时扩展至欧洲30个国家,覆盖全球逾200个国家和地区。行程与列表搜索随 Ask Maps 提供,路线提示和预约查找先在美国上线。
推荐理由:它展示了地图产品如何结合生成式规划与实时地点数据,并通过预约代办把 AI 从回答问题延伸到执行任务。
Qwen4-Max 在 Agent Arena 中较 Qwen3.8-Max 净提升 +7.5%,整体排名从 #39 升至 #14,Alibaba 位列整体第5实验室。该结果基于 14.7k 个真实世界智能体会话,Qwen4-Max 在四项报告信号上均有提升,并成为排名最高的中国模型。
推荐理由:原文将 Qwen4-Max 与 Qwen3.8-Max 的排名、净提升和四项信号变化放在 Agent Arena 中比较,便于理解这次模型更新的具体表现。
QwenTeam 正式发布 Qwen4-Max,该模型基于 Qwen4 系列新架构,拥有 2.4T 主干参数、原生视觉能力和百万 token 上下文窗口。相比 Qwen3.8-Max,Qwen4-Max 在 Work360 的 Xhigh 和 High 推理强度下 token 消耗分别减少约 24% 和 35%,单个任务平均费用从 26.58 元降至 11.16 元,降低 58%。
推荐理由:原文同时披露了 Qwen4-Max 的架构变化、评测结果和成本下降,便于比较它相对 Qwen3.8-Max 在能力与 token 效率上的改进。
AWS 介绍了如何在 Amazon Bedrock 上部署 LiteLLM 与 NVIDIA NeMo Switchyard,为编码智能体请求配置 Stage 或 Random 模型路由。
推荐理由:文章把编码智能体的路由评估从单次 token 价格转向每个成功任务成本,并提供可部署的 Stage、Random 配置与基线对比方法。
Google Research 宣布向外部研究者和开发者开放 Antigravity 中基于 Gemini 4 的 /teamwork 与 /boost 工作流。
推荐理由:原文将并行探索、专门验证和上下文分工组织成可复用的多智能体工作流,并用数学形式化、化学结构识别与代码优化案例展示其适用范围。
Claude 推出 Claude Meetings,将 Claude 加入团队视频通话,并在讨论过程中共同构建文档、白板和其他产物。该功能开始以 beta 形式向 Team 和 Enterprise 计划逐步开放。
推荐理由:原文明确了 Claude Meetings 在视频通话中的协作方式和 beta 覆盖计划,便于团队判断其会议协作场景。
Google DeepMind 发布 Gemini 4 Hydrogen,并将其面向开发者、企业和消费者全球开放,用于快速执行与智能体工作流。
推荐理由:文章同时给出 Hydrogen 的性能、价格与安全数据,并说明 Orchestrator 如何在 Carbon 与 Hydrogen 间切换,便于理解其在开发工作流中的定位。
Google 使用 Agent Development Kit(ADK)和 gemini-2.5-flash,在五个非 Google 编写的公开安全基准上测试 Private Preview 中的 Agent Anomaly Detection,共评测 1,774 个 sessions。
推荐理由:五个公开安全基准的测试展示了 Agent Anomaly Detection 对已执行有害指令的检测效果,也暴露出对长期记忆投毒的覆盖短板。
Tether AI Research 发布 BotPsy,这是一个基于 Qwen3.5-0.8B、面向工具调用和智能体工作流的 0.8B 参数语言模型,适用于端侧部署。
推荐理由:文章披露 BotPsy 的四阶段训练和多项基准结果,便于比较 0.8B 参数智能体在工具调用、推理效率和端侧部署上的表现。
微软研究人员发现名为Lazarus的后门技术,通过重编程LLM中不到10个休眠神经元即可植入后门,且不需要重新训练。模型能通过标准安全评测,但在触发条件(如日期变化)出现后,基于该模型的AI智能体会在正常任务中执行命令下载并运行攻击者代码,对拥有工具或终端访问权限的智能体风险尤其大。
推荐理由:研究显示,重编程不到10个休眠神经元就能让智能体在特定触发下执行恶意命令,提示权重溯源审计的现实意义。
OpenAI 宣布 ChatGPT 中的 Businesses 进入 beta,企业可以认领自己的业务、管理信息,并获取人们与其互动方式的洞察。符合条件的企业还可以构建 Business Agent,回答客户问题并帮助他们了解企业提供的内容。
推荐理由:这条信息同时交代了企业在 ChatGPT 中可管理的信息、用户互动洞察和客户问答入口,便于判断产品面向的使用场景。
Google DeepMind 宣布 Gemini 4 Carbon 已向开发者、企业、科学家和消费者开放,是其当前最强的前沿模型,专注网络安全能力以及跨知识工作、软件工程和科学推理的长链路智能体任务。
推荐理由:文中给出了Carbon与Argon及多家外部模型在基准测试、成本和安全指标上的对比数据,便于横向评估这次升级。
Google 发布 A2UI 1.0,这是其生成式 UI 开放协议的首个稳定版本,可让 AI 智能体返回表单、图表等交互界面。协议支持双向函数调用、无障碍和扩展元数据,开发者可使用面向 Web、Android 和 iOS 的开源渲染器,以及 Python、TypeScript 和 Dart SDK。
推荐理由:A2UI 1.0 将智能体生成界面与应用原生渲染分开,并补充双向函数调用和多平台 SDK,适合了解跨端生成式 UI 的实现路径。
AI at Meta 发布 Muse Ember,并将其带到 GoogleCloud;Muse Wonder 和 Muse Spark 1.3 也一同被带到 GoogleCloud。Muse Ember 是其最小且高效的模型,支持 1M-token 上下文窗口,以及文本、图像、音频和视频的原生理解,可跨应用串联工作流、按序调用工具、运行测试并定向修复代码。
推荐理由:原文同时交代了 Muse Ember 的模型定位、1M-token 上下文窗口和多模态输入,以及跨应用调用工具、测试与定向修复代码的智能体工作流。
Google 分析数千名工程师、数亿个智能体步骤后发现,代码中的 TODO/FIXME bug 引用会让智能体偏离开发者原定任务。13% 的文件读取会话接触到这类引用,其中 6% 触发后续行动,83% 的行动未获开发者请求。
推荐理由:文章量化了代码中过时 TODO 如何诱发智能体偏航,并给出结合工单状态与代码历史清理引用的方法。
Anthropic Research 介绍 AI 参与科学建模的三个步骤:构建模型、用数据约束参数,以及解释模型对真实系统的含义。文章重点讨论 simulation-based inference 和基于 LLM 的智能体如何生成并筛选一组候选模型,而非只给出单一拟合结果。作者认为,保留模型分布、失败的替代方案和数据未约束部分,才有助于形成可解释的科学理解。
推荐理由:文章以 Hodgkin-Huxley 模型为例,拆解 AI 科学建模的构建、参数约束与解释过程,并说明为何保留候选模型分布有助于区分数据支持与未知部分。