跳到正文
  1. Google Developers Blog76

    Gemini Platform Agent Anomaly Detection 实操指南:检测智能体异常行为

    Google 通过实操指南讲解如何在 Gemini Platform 上配置 Agent Anomaly Detection,并用一组正常会话和一组越界会话验证异常检测。

    推荐理由:通过正常与越界会话的对照演练,展示如何用现有遥测定位智能体工具滥用,并将检测结果接入现有告警流程。

  1. Anthropic Engineering82

    Anthropic 解析如何在 Claude 产品中限制智能体影响范围

    Anthropic 介绍了如何在 claude.ai、Claude Code 和 Claude Cowork 中通过环境隔离、模型防护与外部内容控制来限制智能体的潜在影响范围。

    推荐理由:文章以 Claude 产品的真实案例说明,智能体安全应先在环境层设置确定性隔离,再用模型层约束行为,并按用户监督能力匹配隔离强度。

已经到底了