跳到正文
今天11月21日周六2 条
11月20日周五
  1. AWS Machine Learning Blog68

    BMW Group 如何治理服务数千名开发者的数百个智能体

    BMW Group 介绍了其研发部门治理数百个智能体的方法,该部门有超过 12,500 名开发者,维护约 500 million 行车辆软件代码。治理规则通过 MCP 网关、中央注册表和编排边界外置,并按工作流步骤设置三级自治权限,由 CI/CD 以确定性检查阻止不合规部署。其架构将 MCP 工具、技能和流程分为三层,并通过持续验证、评估、可观测性和基础设施即代码支持复用与规模化运营。

  2. NVIDIA Blog64

    NVIDIA 介绍开发者如何借助前沿 AI 智能体与 Omniverse 构建仿真应用

    NVIDIA 展示了开发者如何结合 GPT-6 Astra、GPT-6 Sol、Claude Code 等模型或工具与 Omniverse 库,通过自然语言指导和人工复核构建仿真应用。案例覆盖工业数字孪生、机器人抓取与装配、VR、仓库和自动驾驶测试,并强调让智能体检查渲染与日志,再由开发者直接验证物理行为和交互体验。

11月19日周四
  1. AWS Machine Learning Blog59

    Exa 优化 AWS AI 芯片嵌入管线,吞吐量提高约 50%

    Exa 通过优化 AWS Inferentia2 和 Trainium2 上的嵌入推理,将吞吐量提高约 1.5×,用于支撑数十亿文档索引。优化包括权重布局、autocast、NKI 内核、融合 SwiGLU MLP,以及按模型形状重写注意力内核,并以 0.999 余弦相似度作为正确性门槛。最终版本相较初始基线,在性能及每嵌入 100 万份文档的成本方面改善 47%。

  2. AWS Machine Learning Blog41

    从报表到推理:AWS Quick 如何让企业数据为 AI 智能体做好准备

    AWS Quick DC 用户组聚会展示了企业如何以可信、受治理的数据为基础,将静态报表转向 AI 分析与智能体工作流。AWS Quick 整合自然语言交互、多步任务编排及 Salesforce、Slack 等第三方连接器。全体参与者在 50 分钟内发布自定义应用,另有 6 人构建了事件触发的 AWS Quick Flows。

  3. Hugging Face Blog80

    180B 参数、32GB 内存:Transformers 流式加载 MoE 专家,将生成速度逼近 Strata

    作者在配备 32 GB 统一内存的 MacBook M5 上,用 Transformers 从 SSD 流式加载 180B 参数 Qwen3.8-Flash-Next 的 MoE 专家,使短解码达到 13.9 tok/s,与 Strata 的 14.8 tok/s 相差约 6%。

    推荐理由:该实验给出低内存设备运行大型 MoE 的可迁移路径,细化了专家流式读取、有界缓存与 Metal 内核各自解决的瓶颈。

11月18日周三
11月17日周二
  1. AWS Machine Learning Blog63

    AWS 梳理多智能体设计模式、反模式与制造业实践经验

    AWS 将多智能体协调模式分为预定义控制流的 Tier 1 和由模型运行时选路的 Tier 2,并比较不同模式的确定性与构建成本。文章列出全能智能体、无限迭代、自然语言契约、过早采用多智能体和无保护客户接触五类反模式,建议优先从 Tier 1 起步,仅在任务需要动态发现子任务时采用 Tier 2。

  2. Google Developers Blog77

    如何按 AI 智能体会话为 GKE 节点池规划容量

    Google 讲解了如何按 AI 智能体会话而非 Web 请求为 GKE 节点池规划容量,并介绍 Agent Substrate 和 AX 如何在会话等待时停放沙箱、释放计算资源。

    推荐理由:文章用100个编码智能体的成本模型说明,应按实际占用 worker 的会话配置节点池,并以最繁忙时段的提示频率校准容量。

  3. AWS Machine Learning Blog71

    如何在 OpenAI Bedrock Managed Knowledge Base 中按租户定制回答

    OpenAI 演示如何使用 OpenAI Bedrock Managed Knowledge Base 的 retrieval instructions,为共享知识库中的不同租户设置语气、答案格式、检索指导和回答策略。检索指令不构成授权或数据隔离边界,因此需配合服务端元数据过滤或独立知识库,并通过固定版本和 Planning trace 实现分租户发布与追踪。

  4. AWS Machine Learning Blog69

    Amazon Bedrock Guardrails 编写 Denied Topics 的八项最佳实践

    AWS 给出 Amazon Bedrock Guardrails 中 Denied Topics 的八项编写实践,重点是按用户意图和具体动作界定主题。文章建议采用动作型名称与定义、最多五个边界示例和上下文锚点,合并重叠主题,并将通用安全类别、固定词、敏感信息和提示词攻击分别交给对应策略。Denied Topics 的结果并非完全确定,关键输入应重复测试,并在主题增删、改名或重排后重新评估。

11月16日周一
  1. AWS Machine Learning Blog72

    OpenAI Bedrock 为开放权重模型引入显式提示词缓存

    OpenAI Bedrock 为开放权重模型新增显式提示词缓存,可通过 Chat Completions API 标记可复用前缀,并从响应中读取缓存使用情况。隐式缓存自动复用匹配前缀,显式缓存使用 prompt_cache_options 和 prompt_cache_breakpoint 控制缓存边界;示例还演示了 OpenCode 1.18.35 编码智能体会话中的缓存验证与最佳实践。

11月14日周六
  1. AWS Machine Learning Blog71

    如何在 Amazon Bedrock 上用 NVIDIA NeMo Switchyard 将编码智能体请求路由到合适模型

    AWS 介绍了如何在 Amazon Bedrock 上部署 LiteLLM 与 NVIDIA NeMo Switchyard,为编码智能体请求配置 Stage 或 Random 模型路由。

    推荐理由:文章把编码智能体的路由评估从单次 token 价格转向每个成功任务成本,并提供可部署的 Stage、Random 配置与基线对比方法。

  2. AWS Machine Learning Blog63

    OpenFold3 在 Amazon SageMaker JumpStart 上部署并预测生物分子结构

    AWS 介绍如何在 Amazon SageMaker JumpStart 上部署 OpenFold3-preview(OpenFold3 0.4.1),并通过 SageMaker 异步推理预测蛋白质、DNA、RNA、小分子配体及其复合物的 3D 结构。

    推荐理由:文章给出 OpenFold3 在 Amazon SageMaker JumpStart 上部署异步推理端点的流程,并展示预计算 MSA 对复合物预测置信度和结合构象的影响。

  3. AWS Machine Learning Blog63

    Amazon Bedrock 如何为 AI 开发与生产力工具实现成本归因与使用控制

    AWS 介绍了如何利用 Amazon Bedrock 的 IAM principal 归因机制,为经由 bedrock-runtime 或 bedrock-mantle 调用的 AI 开发与生产力工具实现按用户成本追踪。

    推荐理由:文章把按用户、团队和成本中心追踪 Bedrock 支出的配置步骤与控制方案串联起来,便于搭建可查询、可分层治理的成本管理流程。

11月12日周四
  1. Google Developers Blog77

    用 Gemini 和约束求解器捕获 Go 模糊测试漏掉的错误

    Google 的一名 Agent skills 项目负责人将 Gemini 4 Argon、Z3 约束求解器与 Go 汇编分析结合,从编译器保留的边界检查陷阱中合成崩溃输入;该流程找出测试解析器中预置的 3 个 bug,并在 skill-lint 中发现 3 个潜在 bug。

    推荐理由:文章拆解了 Go 模糊测试因切片容量掩盖越界崩溃的原因,并给出用 Gemini、Z3 与容量裁剪互补排查解析器错误的方法。

11月3日周二
  1. Google Developers Blog75

    Google 解析用低成本分类器在 Gemini 模型与 thinking level 之间路由任务

    Google 通过 50 个自动评分的编码智能体任务,比较 Jev 分类器、启发式规则与 Gemini 不同配置的任务路由效果。Jev 在 34 个未见任务上与人工难度标注 34/34 一致,Jev 路由方案让简单任务使用 Flash-Lite、复杂任务升级到低 thinking 的 Flash,50 题全部答对,并可降低相较于全程低 thinking 的成本和响应时间。

    推荐理由:文章用 50 个编码智能体任务比较启发式路由、Jev 与不同 Gemini 配置,给出按任务难度设置 thinking level 和维护上下文缓存的实践依据。

10月29日周四
  1. Google Developers Blog73

    Google 讲解如何使用 A2UI 与 CopilotKit 构建生成式 UI 应用

    Google 讲解如何结合 A2UI、AG-UI 与 CopilotKit 构建可在运行时生成、流式渲染并支持双向交互的 UI 应用。文章以 Google ADK 为例,展示通过受信组件目录和 Zod 校验限制可渲染组件,并让日期、航班和乘客信息沿同一数据流返回智能体。

    推荐理由:文章串联了 A2UI 的声明式 UI、AG-UI 事件流与 CopilotKit 接入方式,并给出组件目录、双向交互和错误恢复的实现路径。