跳到正文
今天11月21日周六8 条
  1. AWS Machine Learning Blog55

    Amazon SageMaker HyperPod Slurm 推出可观测性与用户管理托管集群扩展

    Amazon SageMaker HyperPod Slurm 推出托管集群扩展,首批覆盖可观测性和用户管理,可通过 API 或 Amazon SageMaker AI 控制台安装、配置、更新和删除。HyperPod 会预先校验配置并持续同步至新增或替换节点,同时报告状态和逐节点健康问题;该功能自 2026 年 11 月起在 HyperPod 支持区域提供,不额外收费。

11月20日周五
  1. AWS Machine Learning Blog68

    BMW Group 如何治理服务数千名开发者的数百个智能体

    BMW Group 介绍了其研发部门治理数百个智能体的方法,该部门有超过 12,500 名开发者,维护约 500 million 行车辆软件代码。治理规则通过 MCP 网关、中央注册表和编排边界外置,并按工作流步骤设置三级自治权限,由 CI/CD 以确定性检查阻止不合规部署。其架构将 MCP 工具、技能和流程分为三层,并通过持续验证、评估、可观测性和基础设施即代码支持复用与规模化运营。

  2. NVIDIA Blog64

    NVIDIA 介绍开发者如何借助前沿 AI 智能体与 Omniverse 构建仿真应用

    NVIDIA 展示了开发者如何结合 GPT-6 Astra、GPT-6 Sol、Claude Code 等模型或工具与 Omniverse 库,通过自然语言指导和人工复核构建仿真应用。案例覆盖工业数字孪生、机器人抓取与装配、VR、仓库和自动驾驶测试,并强调让智能体检查渲染与日志,再由开发者直接验证物理行为和交互体验。

11月19日周四
  1. AWS Machine Learning Blog59

    Exa 优化 AWS AI 芯片嵌入管线,吞吐量提高约 50%

    Exa 通过优化 AWS Inferentia2 和 Trainium2 上的嵌入推理,将吞吐量提高约 1.5×,用于支撑数十亿文档索引。优化包括权重布局、autocast、NKI 内核、融合 SwiGLU MLP,以及按模型形状重写注意力内核,并以 0.999 余弦相似度作为正确性门槛。最终版本相较初始基线,在性能及每嵌入 100 万份文档的成本方面改善 47%。

  2. AWS Machine Learning Blog51

    Amazon Bedrock AgentCore Identity 新增私有 CA 支持

    Amazon Bedrock AgentCore Identity 新增对私有 CA 证书的支持,使 AI 智能体可连接并信任组织私有网络中的自托管 IdP。用户可将 PEM 编码的根或中间 CA 证书存入 AWS Secrets Manager 或 Amazon S3,并由凭证提供商引用;该功能要求使用 Amazon VPC Lattice。教程还介绍了 CA 轮换、到期监控和写权限保护方法。

  3. AWS Machine Learning Blog77

    Salesforce 如何借助 Amazon SageMaker AI 跨区域推理路由扩展全球模型服务

    Salesforce 通过 Amazon SageMaker AI 跨区域推理路由,将 30+ 个全球 Region、数百个 AWS 账户中的既有端点接入统一调用路径,同时满足数据驻留要求。

    推荐理由:Salesforce 的接入与压测数据展示了如何用托管路由缓解跨区域容量碎片,同时满足数据驻留要求并控制故障回切。

  4. AWS Machine Learning Blog41

    从报表到推理:AWS Quick 如何让企业数据为 AI 智能体做好准备

    AWS Quick DC 用户组聚会展示了企业如何以可信、受治理的数据为基础,将静态报表转向 AI 分析与智能体工作流。AWS Quick 整合自然语言交互、多步任务编排及 Salesforce、Slack 等第三方连接器。全体参与者在 50 分钟内发布自定义应用,另有 6 人构建了事件触发的 AWS Quick Flows。

  5. Hugging Face Blog80

    180B 参数、32GB 内存:Transformers 流式加载 MoE 专家,将生成速度逼近 Strata

    作者在配备 32 GB 统一内存的 MacBook M5 上,用 Transformers 从 SSD 流式加载 180B 参数 Qwen3.8-Flash-Next 的 MoE 专家,使短解码达到 13.9 tok/s,与 Strata 的 14.8 tok/s 相差约 6%。

    推荐理由:该实验给出低内存设备运行大型 MoE 的可迁移路径,细化了专家流式读取、有界缓存与 Metal 内核各自解决的瓶颈。

11月18日周三
  1. Hugging Face Blog57

    IBM 时间序列模型原生接入 Confluent,支持云端和本地 CPU 运行

    IBM 时间序列基础模型现已作为内置函数原生运行在 Confluent Cloud 和本地 Confluent Platform for Apache Flink,可在 CPU 上通过 SQL 执行预测、异常检测和语义智能,无需 GPU。文章还展示了 TTM、PatchTST-FM 和 TSPulse 在生产优化、库存规划、支付风控、交易量预测与相似模式搜索等场景中的用法。

  2. NVIDIA Blog75

    NVIDIA RTX Spark 紧凑型桌面电脑现已开售

    ASUS、Dell 和 MSI 的 NVIDIA RTX Spark 紧凑型桌面电脑现已开售,可在专用 Windows PC 上运行本地 AI 智能体、图像与视频生成及模型微调。

    推荐理由:材料将硬件规格、可运行模型规模与本地工作流放在一起,便于判断专用紧凑型桌面电脑是否适合常驻智能体和创作任务。

  3. AWS Machine Learning Blog76

    OpenAI SageMaker AI 实时端点新增 KV cache 感知路由

    OpenAI SageMaker AI 实时端点现支持 KV cache 感知路由,可依据模型容器上报的缓存状态和实例负载,将请求发送到持有最长匹配缓存的实例。

    推荐理由:基于容器上报的实际缓存状态而非固定前缀推断,可为长上下文与多轮对话选择缓存匹配更长且负载较低的实例。