跳到正文
TestingCatalog·· 3 天前AI 评分69

PromptArmor 发布 FrontierBreach,评测企业 AI 智能体遭隐藏指令误导的频率

PromptArmor has released FrontierBreach, a benchmark of how often AI agents at work can be misled by hidden instructions. Attackers can hide an invisi...

AI 导读

PromptArmor 发布 FrontierBreach,用于衡量企业 AI 智能体在真实工作流中被隐藏指令误导,进而导致数据外泄或运行攻击者代码的频率。

来源:TestingCatalog · x.com