Anthropic、OpenAI 和 Google 模型在测试中轻易将医护、记者及投降士兵标记为自杀式无人机目标
Vals AI 对八家提供商的模型进行测试,发现多数模型会在真实及逼真合成的无人机和卫星图像中,将平民、救护车、医护、记者和投降士兵标为军事目标,且上游安全过滤器未阻止任何请求。
推荐理由:这项跨模型测试量化了游戏化提示对拒绝率和目标获取率的影响,为自主武器场景的安全评估提供了可比较数据。
Vals AI 对八家提供商的模型进行测试,发现多数模型会在真实及逼真合成的无人机和卫星图像中,将平民、救护车、医护、记者和投降士兵标为军事目标,且上游安全过滤器未阻止任何请求。
推荐理由:这项跨模型测试量化了游戏化提示对拒绝率和目标获取率的影响,为自主武器场景的安全评估提供了可比较数据。
Vals 测试 OpenAI、Anthropic、Google、DeepSeek 等公司的商业模型,发现它们常在无人机和卫星图像中将平民、学校及投降士兵标记为潜在打击目标,部分拒绝可被游戏化提示绕过。
ScaleVLA 将 552B DeepSeek-V4.1-Flash 骨干连接到可训练的动作 DiT,并在统一训练设置下比较 2B 至 552B 的 VLM。
Allen AI 联合 Carnegie Mellon、NVIDIA 和 Johns Hopkins 发布 XYBench,用 8,115 道问题测试 AI 助手能否识别用户提问中隐含的误解(即 XY problem)并给出针对真实目标的建议,该基准获得了 EMNLP 2026 最佳资源论文奖。