跳到正文
  1. Hugging Face Blog80

    180B 参数、32GB 内存:Transformers 流式加载 MoE 专家,将生成速度逼近 Strata

    作者在配备 32 GB 统一内存的 MacBook M5 上,用 Transformers 从 SSD 流式加载 180B 参数 Qwen3.8-Flash-Next 的 MoE 专家,使短解码达到 13.9 tok/s,与 Strata 的 14.8 tok/s 相差约 6%。

    推荐理由:该实验给出低内存设备运行大型 MoE 的可迁移路径,细化了专家流式读取、有界缓存与 Metal 内核各自解决的瓶颈。

  1. AWS Machine Learning Blog79

    使用 Amazon Bedrock AgentCore 和 SMART 构建 WhatsApp AI 智能体

    AWS 给出使用 Amazon Bedrock AgentCore 和开源 SMART 工具包构建 WhatsApp AI 智能体的实现路径。

    推荐理由:文章把 WhatsApp 接入拆为消息标准化、媒体处理、跨会话记忆、调度与模板管理,提供从本地测试到 Terraform 部署的可迁移路径。

  1. Google Developers Blog77

    如何按 AI 智能体会话为 GKE 节点池规划容量

    Google 讲解了如何按 AI 智能体会话而非 Web 请求为 GKE 节点池规划容量,并介绍 Agent Substrate 和 AX 如何在会话等待时停放沙箱、释放计算资源。

    推荐理由:文章用100个编码智能体的成本模型说明,应按实际占用 worker 的会话配置节点池,并以最繁忙时段的提示频率校准容量。

  1. AWS Machine Learning Blog63

    OpenFold3 在 Amazon SageMaker JumpStart 上部署并预测生物分子结构

    AWS 介绍如何在 Amazon SageMaker JumpStart 上部署 OpenFold3-preview(OpenFold3 0.4.1),并通过 SageMaker 异步推理预测蛋白质、DNA、RNA、小分子配体及其复合物的 3D 结构。

    推荐理由:文章给出 OpenFold3 在 Amazon SageMaker JumpStart 上部署异步推理端点的流程,并展示预计算 MSA 对复合物预测置信度和结合构象的影响。

  2. AWS Machine Learning Blog63

    Amazon Bedrock 如何为 AI 开发与生产力工具实现成本归因与使用控制

    AWS 介绍了如何利用 Amazon Bedrock 的 IAM principal 归因机制,为经由 bedrock-runtime 或 bedrock-mantle 调用的 AI 开发与生产力工具实现按用户成本追踪。

    推荐理由:文章把按用户、团队和成本中心追踪 Bedrock 支出的配置步骤与控制方案串联起来,便于搭建可查询、可分层治理的成本管理流程。

  1. Google Developers Blog75

    Google 解析用低成本分类器在 Gemini 模型与 thinking level 之间路由任务

    Google 通过 50 个自动评分的编码智能体任务,比较 Jev 分类器、启发式规则与 Gemini 不同配置的任务路由效果。Jev 在 34 个未见任务上与人工难度标注 34/34 一致,Jev 路由方案让简单任务使用 Flash-Lite、复杂任务升级到低 thinking 的 Flash,50 题全部答对,并可降低相较于全程低 thinking 的成本和响应时间。

    推荐理由:文章用 50 个编码智能体任务比较启发式路由、Jev 与不同 Gemini 配置,给出按任务难度设置 thinking level 和维护上下文缓存的实践依据。

  1. Google Developers Blog73

    Google 讲解如何使用 A2UI 与 CopilotKit 构建生成式 UI 应用

    Google 讲解如何结合 A2UI、AG-UI 与 CopilotKit 构建可在运行时生成、流式渲染并支持双向交互的 UI 应用。文章以 Google ADK 为例,展示通过受信组件目录和 Zod 校验限制可渲染组件,并让日期、航班和乘客信息沿同一数据流返回智能体。

    推荐理由:文章串联了 A2UI 的声明式 UI、AG-UI 事件流与 CopilotKit 接入方式,并给出组件目录、双向交互和错误恢复的实现路径。

  1. Google Developers Blog69

    Agents CLI 如何通过评估循环持续提升智能体质量

    Google Developers Blog 演示了 Agents CLI 的 eval 循环,依次使用 eval generate、eval grade、eval compare 和 eval analyze 运行、评分并定位智能体回归。

    推荐理由:文章用 Agents CLI 的评估循环展示如何通过基线、逐案例对比和定时告警定位智能体回归,方法可迁移到持续质量管理。

  1. Google Developers Blog78

    Agents CLI 如何用扩展系统支持 LangChain 与自定义部署策略

    Google 的 Agents CLI 在 v1.5.0 起支持扩展系统,v1.8.0 提供官方 LangChain 扩展,让 LangChain 智能体接入 Agents CLI 的脚手架、运行、部署和评估流程。

    推荐理由:文章以 LangChain 实例和 SBOM 部署策略演示 Agents CLI 扩展机制,说明如何在不分叉工具的情况下替换命令并保留部署与评估流程。

  1. Anthropic Engineering81

    Anthropic 构建 Scion,重构智能体规模的源代码管理

    Anthropic 构建内部版本控制系统 Scion,并在五个月内将单体仓库从 git 完整迁移,以应对代码合并量从 2026 年 5 月日均约 2,500 次增至 9 月超过 30,000 次。

    推荐理由:文章以 Anthropic 的超大单体仓库为案例,解释 AI 智能体高频改码如何暴露 Git 的扩展瓶颈,并给出 Scion 的架构取舍与实测收益。

已经到底了