TestingCatalog·· 3 天前AI 评分69
PromptArmor 发布 FrontierBreach,评测企业 AI 智能体遭隐藏指令误导的频率
PromptArmor has released FrontierBreach, a benchmark of how often AI agents at work can be misled by hidden instructions. Attackers can hide an invisi...
AI 导读
PromptArmor 发布 FrontierBreach,用于衡量企业 AI 智能体在真实工作流中被隐藏指令误导,进而导致数据外泄或运行攻击者代码的频率。
来源:TestingCatalog · x.com