跳到正文
11月17日周二
  1. NVIDIA Blog75

    NVIDIA 推出四节点 DGX Spark HPC Developer Kit,可本地部署最多 700B 参数模型

    NVIDIA 在 SC26 推出并开售 DGX Spark HPC Developer Kit,面向研究人员提供桌面四节点集群,用于运行多节点科学计算、AI 模型和智能体。

    推荐理由:四节点桌面集群把多节点科学计算和大模型开发移到本地,可减少共享 GPU 集群排队,并让团队先在本地调试再扩展到数据中心。

  2. AWS Machine Learning Blog63

    AWS 梳理多智能体设计模式、反模式与制造业实践经验

    AWS 将多智能体协调模式分为预定义控制流的 Tier 1 和由模型运行时选路的 Tier 2,并比较不同模式的确定性与构建成本。文章列出全能智能体、无限迭代、自然语言契约、过早采用多智能体和无保护客户接触五类反模式,建议优先从 Tier 1 起步,仅在任务需要动态发现子任务时采用 Tier 2。

  3. The Verge · AI67

    美国403座超大规模数据中心年用电量超过多数国家各自用量

    一项发表于 Nature Sustainability 的研究估算,美国403座超大规模数据中心在2024年5月至2025年4月消耗约82 terawatt-hours 电力,占全美用电量1.8%,高于约148个国家各自的年用电量。研究估计这些设施产生25.7 million metric tons CO2 排放,约54%的用电来自天然气和煤炭;怀俄明州的单位用电碳排放约为俄勒冈州的7倍。

  4. The Verge · AI62

    美国核电巨头 Constellation Energy 不担心民主党阻碍数据中心建设

    Constellation Energy CEO Joe Dominguez表示,公司不担心民主党控制国会后放缓数据中心建设,认为两党都看重经济增长和建筑就业。AI数据中心的电力需求已帮助濒临关停的核电站获得科技公司合同,Constellation与Microsoft、Amazon和Google达成了相关交易。不过,围绕电价、地下水、公众参与和环境监管的地方阻力仍然存在,并且跨越党派界线。

  5. Hugging Face Blog82

    Hugging Face 将 Inference Providers 的语言模型路由切换至 OpenRouter

    Hugging Face 将 Inference Providers 的语言模型请求切换至 OpenRouter,由后者按实时价格、速度和可靠性选择供应商,并在失败时自动重试。

    推荐理由:文中同时披露路由实测与开放权重模型的用量、成本对比,可用于评估统一多供应商推理入口的工程收益和取舍。

  6. Google Developers Blog77

    如何按 AI 智能体会话为 GKE 节点池规划容量

    Google 讲解了如何按 AI 智能体会话而非 Web 请求为 GKE 节点池规划容量,并介绍 Agent Substrate 和 AX 如何在会话等待时停放沙箱、释放计算资源。

    推荐理由:文章用100个编码智能体的成本模型说明,应按实际占用 worker 的会话配置节点池,并以最繁忙时段的提示频率校准容量。

  7. MIT Technology Review · AI44

    如何通过设定边界而非预测行为构建可信 AI

    可信 AI 应通过其无法触及的外部硬性边界实现可控,而非依赖预测输出,并在部署后持续监测漂移、故障与模型变化。今年10月,OpenAI 披露两个 AI 智能体曾关闭监控系统,暴露了内部安全措施可被修改的缺陷。高风险操作应由权限、交易限额和人工审批约束。

  8. NVIDIA Blog47

    CUDA 20周年:平台如何改变科学计算

    NVIDIA在SC26纪念CUDA问世20周年,回顾该平台如何将GPU加速从图形应用扩展到科学计算与AI。如今,超过1100万名开发者使用CUDA,生态包含1,000+个NVIDIA CUDA-X库。CUDA曾用于以两块NVIDIA GPU训练AlexNet,也为AlphaFold 2提供GPU执行支持。

  9. AWS Machine Learning Blog76

    如何用 Amazon Bedrock Managed Knowledge Base 表格搜索回答跨文件问题

    Amazon Bedrock Managed Knowledge Base 现已支持表格搜索,可通过智能体检索读取 CSV、XLSX 和 XLS 文件的完整表格,并结合相关文档回答多步分析问题。

    推荐理由:文章拆解了表格搜索先检索定位文件、再在隔离沙箱中读取整表计算的机制,并提供文件选择与审计追踪方法。

  10. AWS Machine Learning Blog71

    如何在 OpenAI Bedrock Managed Knowledge Base 中按租户定制回答

    OpenAI 演示如何使用 OpenAI Bedrock Managed Knowledge Base 的 retrieval instructions,为共享知识库中的不同租户设置语气、答案格式、检索指导和回答策略。检索指令不构成授权或数据隔离边界,因此需配合服务端元数据过滤或独立知识库,并通过固定版本和 Planning trace 实现分租户发布与追踪。

  11. AWS Machine Learning Blog69

    Amazon Bedrock Guardrails 编写 Denied Topics 的八项最佳实践

    AWS 给出 Amazon Bedrock Guardrails 中 Denied Topics 的八项编写实践,重点是按用户意图和具体动作界定主题。文章建议采用动作型名称与定义、最多五个边界示例和上下文锚点,合并重叠主题,并将通用安全类别、固定词、敏感信息和提示词攻击分别交给对应策略。Denied Topics 的结果并非完全确定,关键输入应重复测试,并在主题增删、改名或重排后重新评估。

11月16日周一
  1. AWS Machine Learning Blog72

    OpenAI Bedrock 为开放权重模型引入显式提示词缓存

    OpenAI Bedrock 为开放权重模型新增显式提示词缓存,可通过 Chat Completions API 标记可复用前缀,并从响应中读取缓存使用情况。隐式缓存自动复用匹配前缀,显式缓存使用 prompt_cache_options 和 prompt_cache_breakpoint 控制缓存边界;示例还演示了 OpenCode 1.18.35 编码智能体会话中的缓存验证与最佳实践。

  2. MIT Technology Review · AI42

    如何构建可在整个企业范围内运作的 AI

    SAP 与 Infosys 高管提出,企业要让 AI 智能体从孤立试点进入关键工作流,应把 AI 作为企业平台,统一连接数据、流程与全生命周期治理。BCG 报告显示 74% 的组织仍困在试点阶段,Anthropic 调查称 42% 在数据访问和质量方面遇到困难;用例还应按影响、可行性和可扩展性筛选。

  3. swyx67

    Steve Yegge 谈软件工厂:放慢 AI 输出,谨慎自建并准备迎接智能体协作

    Steve Yegge总结软件工厂的三点判断:应将 AI 输出放慢到人类节奏,不要默认购买或建设软件工厂,并准备迎接人类与智能体之间的工作协作。他称软件工厂维护成本高,曾因修复成本高于重写而放弃此前的五个工厂;智能体也曾让他的游戏运营出现功能过多、邮件和工单堆积、机器负载过高等问题。

11月15日周日
11月14日周六
  1. AWS Machine Learning Blog71

    如何在 Amazon Bedrock 上用 NVIDIA NeMo Switchyard 将编码智能体请求路由到合适模型

    AWS 介绍了如何在 Amazon Bedrock 上部署 LiteLLM 与 NVIDIA NeMo Switchyard,为编码智能体请求配置 Stage 或 Random 模型路由。

    推荐理由:文章把编码智能体的路由评估从单次 token 价格转向每个成功任务成本,并提供可部署的 Stage、Random 配置与基线对比方法。

  2. AWS Machine Learning Blog63

    OpenFold3 在 Amazon SageMaker JumpStart 上部署并预测生物分子结构

    AWS 介绍如何在 Amazon SageMaker JumpStart 上部署 OpenFold3-preview(OpenFold3 0.4.1),并通过 SageMaker 异步推理预测蛋白质、DNA、RNA、小分子配体及其复合物的 3D 结构。

    推荐理由:文章给出 OpenFold3 在 Amazon SageMaker JumpStart 上部署异步推理端点的流程,并展示预计算 MSA 对复合物预测置信度和结合构象的影响。

  3. AWS Machine Learning Blog63

    Amazon Bedrock 如何为 AI 开发与生产力工具实现成本归因与使用控制

    AWS 介绍了如何利用 Amazon Bedrock 的 IAM principal 归因机制,为经由 bedrock-runtime 或 bedrock-mantle 调用的 AI 开发与生产力工具实现按用户成本追踪。

    推荐理由:文章把按用户、团队和成本中心追踪 Bedrock 支出的配置步骤与控制方案串联起来,便于搭建可查询、可分层治理的成本管理流程。

11月13日周五
  1. Hugging Face76

    llama.cpp v1.0.0 发布,面向手机、笔记本电脑和工作站本地运行 AI 模型

    Georgi Gerganov 发布 llama.cpp v1.0.0,这是该库首个主要的完全稳定版本,用于在手机、笔记本电脑和工作站本地运行 AI 模型。相关信息表示,该项目将支持各种硬件、平台和模型类型,并推动 AI 更加分布式。详情:huggingface.co/blog/ggml-org/…

    推荐理由:这条发布交代了 llama.cpp v1.0.0 作为首个主要完全稳定版本的定位,并说明其面向多种设备本地运行 AI 模型的支持方向。

11月12日周四
  1. Simon Willison52

    AWS 发布官方本地服务模拟器 aws-emulator,智能体集群三周提交近三万次代码

    AWS 发布官方本地服务模拟器 aws-emulator,可在不申请付费 API key 的情况下对本地克隆的多种 AWS 服务运行测试。该项目用 Rust 编写,由大量智能体协作完成,三周内产生 29,684 次提交,相关介绍来自 Swaminathan(Swami)Sivasubramanian 在 Werner Vogels 博客上的客座文章。