跳到正文
Google Developers Blog·· 6 天前精选AI 评分77

如何按 AI 智能体会话为 GKE 节点池规划容量

Agents are sessions, not requests: size GKE node pools for AI agent sessions

AI 导读

Google 讲解了如何按 AI 智能体会话而非 Web 请求为 GKE 节点池规划容量,并介绍 Agent Substrate 和 AX 如何在会话等待时停放沙箱、释放计算资源。

推荐理由

文章用100个编码智能体的成本模型说明,应按实际占用 worker 的会话配置节点池,并以最繁忙时段的提示频率校准容量。

来源:Google Developers Blog · developers.googleblog.com