Anthropic、OpenAI 和 Google 模型在测试中轻易将医护、记者及投降士兵标记为自杀式无人机目标
Vals AI 对八家提供商的模型进行测试,发现多数模型会在真实及逼真合成的无人机和卫星图像中,将平民、救护车、医护、记者和投降士兵标为军事目标,且上游安全过滤器未阻止任何请求。
推荐理由:这项跨模型测试量化了游戏化提示对拒绝率和目标获取率的影响,为自主武器场景的安全评估提供了可比较数据。
Vals AI 对八家提供商的模型进行测试,发现多数模型会在真实及逼真合成的无人机和卫星图像中,将平民、救护车、医护、记者和投降士兵标为军事目标,且上游安全过滤器未阻止任何请求。
推荐理由:这项跨模型测试量化了游戏化提示对拒绝率和目标获取率的影响,为自主武器场景的安全评估提供了可比较数据。
Grok 将 Grok Imagine 的图像和视频创作功能整合到 Grok 中,用户打开 Grok 即可开始创作。相关链接:x.com/imagine/status/21216729…
推荐理由:Grok 将 Grok Imagine 的图像与视频创作集中到同一入口,用户可以直接在 Grok 中开始创作,信息也给出了具体使用入口。