用 Agent Toolkit for AWS 分布式 KV 缓存技能降低自托管 LLM 成本与延迟
Agent Toolkit for AWS 分布式 KV 缓存技能可在编码智能体中评估并配置 Amazon ElastiCache,使自托管 LLM 推理成本最多降低 40%、TTFT 最多缩短 80%。技能通过 KVTrace 免费估算收益,兼容支持 Agent Skills 的编码智能体。
Agent Toolkit for AWS 分布式 KV 缓存技能可在编码智能体中评估并配置 Amazon ElastiCache,使自托管 LLM 推理成本最多降低 40%、TTFT 最多缩短 80%。技能通过 KVTrace 免费估算收益,兼容支持 Agent Skills 的编码智能体。
Google 本周在 Gemini App 的 Tasks 中上线 Duplex,使其可代用户致电商家并处理现实世界请求。其架构先后经历预 LLM 封闭领域模型、生成模型与确定性状态跟踪结合的混合栈,以及完全基于 Gemini 的统一栈。系统针对电话场景处理亚秒级延迟、噪声和会话节奏,并在通话开头披露 AI 身份,允许商家退出自动来电。
推荐理由:文章梳理 Duplex 从封闭领域模型到 Gemini 统一架构的十年演进,并交代实时电话中的低延迟与商户控制设计。
Google 在 Gemini platform 开放 Semantic governance policies Preview,可在 AI 智能体执行工具调用前检查调用是否符合用户原始意图和自然语言政策。
Google Agent Anomaly Detection 现处于 Private Preview,并支持监控运行在 Google Cloud 之外的智能体。
Google 讲解 Gemini Enterprise 自定义 UI 如何处理用户、连接器与 ADK 智能体认证。用户应用可经 Google Identity 或 Workforce Identity Federation 接入,后端机器人可经 Workload Identity Federation 无密钥认证。
Hugging Face 推出 harness adapters,通过在目标 AI 智能体 harness 内进行 RL,为 Qwen3.8-27B 分别训练 pi、Hermes Agent 和 OpenCode 的 LoRA adapter,并合并为一个 super-adapter。
推荐理由:文章给出同一模型在三种智能体 harness 中的训练配方与成对评测,可用于判断定制 RL 在性能和工具调用成本上的取舍。
Amazon Bedrock AgentCore payments 新增 AWS Billing 支付选项,智能体可按请求以 USD 购买 AWS Marketplace 上支持 x402 的软件、API、数据和内容,费用计入开发者的 AWS 账单。
推荐理由:文章给出从商品发现、签名报价到支付结算的完整流程,并展示如何用会话预算、卖家白名单和 IAM 权限约束智能体支出。
AWS Quick 借助 Amazon Selling Partner 插件连接实时 Seller Central 数据,让卖家通过对话分析商品、库存和销售情况,并创建业务智能体。
BMW Group 介绍了其研发部门治理数百个智能体的方法,该部门有超过 12,500 名开发者,维护约 500 million 行车辆软件代码。治理规则通过 MCP 网关、中央注册表和编排边界外置,并按工作流步骤设置三级自治权限,由 CI/CD 以确定性检查阻止不合规部署。其架构将 MCP 工具、技能和流程分为三层,并通过持续验证、评估、可观测性和基础设施即代码支持复用与规模化运营。
AWS 解析 Amazon Connect Talent 如何以岗位相关问题、自适应追问和基于证据的评分实施结构化 AI 面试,并披露内部研究与独立专家评估结果。
NVIDIA 与 Microsoft 扩大全栈合作,新增和扩展 Azure、Microsoft Foundry、Azure Local 与 Windows PC 上的加速计算及 AI 部署选项。
NVIDIA 展示了开发者如何结合 GPT-6 Astra、GPT-6 Sol、Claude Code 等模型或工具与 Omniverse 库,通过自然语言指导和人工复核构建仿真应用。案例覆盖工业数字孪生、机器人抓取与装配、VR、仓库和自动驾驶测试,并强调让智能体检查渲染与日志,再由开发者直接验证物理行为和交互体验。
Accenture 给出一套在 Amazon Bedrock 上优化 AI token 成本的分阶段方法,先建立团队、工作负载和智能体级成本归因,再依次应用六类优化杠杆。
Google 在 Gemini API 的 Interactions API 中预览推出 Tool Retrieval,可按需加载工具参数 schema。Agent 仍能看到延迟加载工具的名称和描述,仅在需要调用时载入完整 schema,以减少输入 token、延迟及工具增多导致的选择准确率下降。
推荐理由:按需加载工具参数 schema 的设计,为大型 Agent 工具库提供了降低输入 token 并维持选择准确率的实现路径。
Skyflow 与 Amazon Bedrock AgentCore Gateway 通过请求和响应拦截器,阻止敏感数据进入 AI 智能体调用的工具及工具返回的模型上下文。
Google 介绍如何用 Tunix 在单台 Cloud TPU v6e-8 主机上对 Gemma 4 E2B 进行多轮工具调用强化学习训练。该模型在 Plane Strike 留出棋盘上的初始胜率为 9.4%,经过 100 步 agentic GRPO 后达到 95%,平均游戏长度从 22.44 次攻击降至约 16 次。
Exa 通过优化 AWS Inferentia2 和 Trainium2 上的嵌入推理,将吞吐量提高约 1.5×,用于支撑数十亿文档索引。优化包括权重布局、autocast、NKI 内核、融合 SwiGLU MLP,以及按模型形状重写注意力内核,并以 0.999 余弦相似度作为正确性门槛。最终版本相较初始基线,在性能及每嵌入 100 万份文档的成本方面改善 47%。
OpenAI 衡量编码智能体对 AI 研究的加速作用,并指出其表现仍不均衡。相关结果也被用于分析这种能力对递归式自我改进意味着什么。
Google DeepMind 发布 Gemini 4 Neon,主打复杂软件工程、知识工作和科学流程中的快速端到端任务执行。其 xhigh thinking level 在 Artificial Analysis Intelligence Index 以 61 分列总体 #3,Vals Index 列 #2,并提供 1 million-token 上下文窗口。
推荐理由:原文同时给出第三方基准、每任务成本、上下文窗口和开放范围,便于比较 Neon 在性能与效率之间的定位。
Amazon Bedrock AgentCore Identity 新增对私有 CA 证书的支持,使 AI 智能体可连接并信任组织私有网络中的自托管 IdP。用户可将 PEM 编码的根或中间 CA 证书存入 AWS Secrets Manager 或 Amazon S3,并由凭证提供商引用;该功能要求使用 Amazon VPC Lattice。教程还介绍了 CA 轮换、到期监控和写权限保护方法。
RadixArk 发布 DaisyRose-27B,Terminal-Bench 4.1 pass@1 从 5.6% 升至 12.0%。该模型基于 Qwen3.8-27B,使用 Miles 和约 1,200 个精选任务,在 144 H200 GPUs 上训练 18 天,最长训练会话达 1M tokens。
推荐理由:文章把任务筛选、异步强化学习与沙箱基础设施连到具体成本和基准变化,呈现一套可迁移的长时程 Agent 后训练路径。
AWS 给出一种架构模式,让 Amazon Bedrock AgentCore Gateway 通过中心辐射型网络访问私有 REST API 和 MCP 服务器,并使跨 VPC 的请求与响应经过中央防火墙。
AWS Quick DC 用户组聚会展示了企业如何以可信、受治理的数据为基础,将静态报表转向 AI 分析与智能体工作流。AWS Quick 整合自然语言交互、多步任务编排及 Salesforce、Slack 等第三方连接器。全体参与者在 50 分钟内发布自定义应用,另有 6 人构建了事件触发的 AWS Quick Flows。
Google DeepMind 向符合条件的 Google AI Ultra 订阅者开放 Genie 4,并上线新版 Project Genie 体验。Genie 4 支持在探索过程中用提示词实时修改环境,并加入随场景变化的原生音频。此次更新还带来 Project Genie 智能体、社区画廊,以及最长 3 分钟的 Genie 3 单次生成;所有生成视频和音频均含 SynthID 水印。
推荐理由:Genie 4把会话中实时改写世界与原生音频结合,Project Genie智能体和社区画廊也呈现了从生成到分享的完整流程。
ASUS、Dell 和 MSI 的 NVIDIA RTX Spark 紧凑型桌面电脑现已开售,可在专用 Windows PC 上运行本地 AI 智能体、图像与视频生成及模型微调。
推荐理由:材料将硬件规格、可运行模型规模与本地工作流放在一起,便于判断专用紧凑型桌面电脑是否适合常驻智能体和创作任务。
AWS 讲解如何通过 Amazon Bedrock AgentCore Gateway,为 Snowflake Cortex AI 的 MCP 调用配置三种 OAuth 模式。
Google AI Studio 现可借助 Gemini 4 Carbon 和 Hydrogen,从单条提示词生成包含数据持久化、用户登录和 AI 功能的 Kotlin Android 应用,并在数分钟内发布到 Google Play。
推荐理由:这套流程串联 Kotlin 代码生成、Firebase 后端配置、模拟器调试和 Google Play 发布,呈现端到端开发方式。
AWS Forward Deployed Engineering(FDE)现已面向 15 个国家的商业及公共部门客户开放,并配备数十种内置的生产就绪型加速器。每个 45-day sprint 采用固定价格并通过客户的 AWS 账户计费,团队直接在客户环境中构建系统。FDE 将生产化难题分为基础、工作流和治理三层,目标是让客户团队能够持续运行和扩展交付成果。
AWS 给出使用 Amazon Bedrock AgentCore 和开源 SMART 工具包构建 WhatsApp AI 智能体的实现路径。
推荐理由:文章把 WhatsApp 接入拆为消息标准化、媒体处理、跨会话记忆、调度与模板管理,提供从本地测试到 Terraform 部署的可迁移路径。
Google 开源 Another Build File Service(ABFS),通过按需加载源码和共享构建缓存,加速超大型 Git 仓库的检出与构建。在同一云网络的 GCE n2d-standard-64 VM 上,Android 源码检出从约 36 分钟降至 8 秒以内,完整构建从约 80 分钟降至略高于 2 分钟。
推荐理由:ABFS 将按需加载、内容寻址文件系统与两阶段构建缓存结合,为超大型 Git 仓库提供可迁移的提速方案。
Google 为 Gemini 推出 Task 模式,可代用户打电话、分析账单、购物付款并完成跨应用任务。该更新由新的 Gemini 4 Hydrogen 模型驱动,现面向美国、日本、韩国、加拿大、澳大利亚和印度数亿用户免费推出,高级功能先从美国上线。Gemini 可连接 60 多款应用,并通过隔离虚拟机、提示词注入过滤和关键步骤确认保护任务执行。
推荐理由:从并行致电、账单分析到购物结算,原文呈现了个人智能体跨 Google 与第三方应用完成事务的具体工作流。
OpenAI 给出面向智能体 AI 平台与应用团队的负责任 AI 路线图,按治理基础、试点部署、评估与加固三个阶段推进。框架提供可定制的 12-week 实施时间线,并配套 Responsible AI Assessment Skill 与记分卡,用 1–5 分评估当前成熟度并给出改进建议。
LoanPro 联合 AWS 生成式 AI 创新中心和 AllCloud,基于 Amazon Bedrock AgentCore 构建并上线多智能体贷款服务助手。
NVIDIA 在 SC26 发布科研智能体工具 Nemotron for Science 和 Rubin HPC GPU,并扩展面向高性能计算的 Vera CPU 平台。
OpenAI 展示如何通过 OpenAI Bedrock Managed Knowledge Base 的 Agentic Retrieve 构建具备短期和长期记忆的多用户 AI 智能体。
AWS 将多智能体协调模式分为预定义控制流的 Tier 1 和由模型运行时选路的 Tier 2,并比较不同模式的确定性与构建成本。文章列出全能智能体、无限迭代、自然语言契约、过早采用多智能体和无保护客户接触五类反模式,建议优先从 Tier 1 起步,仅在任务需要动态发现子任务时采用 Tier 2。
Duco 介绍其如何基于 OpenAI Bedrock 和 OpenAI Bedrock AgentCore 重建金融数据自动化的智能体技术栈。该架构为每个租户配置独立运行时和 Gateway,并按需加载 MCP 技能,将主上下文从 200,000 tokens 降至约 20,000 tokens,减少 90%。
MoEngage 基于 Amazon Bedrock 和 Amazon Bedrock AgentCore 构建 Merlin AI,让营销与产品团队通过一次对话起草、分析和调整跨渠道活动。
Google 通过实操指南讲解如何在 Gemini Platform 上配置 Agent Anomaly Detection,并用一组正常会话和一组越界会话验证异常检测。
推荐理由:通过正常与越界会话的对照演练,展示如何用现有遥测定位智能体工具滥用,并将检测结果接入现有告警流程。
Novo Nordisk 与 AWS 基于 Amazon Bedrock AgentCore 构建制药制造流程智能助手,将部分专家工作从数小时或数天缩短至几分钟。