跳到正文
TechCrunch · AI· Ivan Mehta·· 5 天前精选AI 评分78

OpenAI 推出 CSAM 图像分类器与 ChatGPT 警告机制

OpenAI releases a new image classifier and ChatGPT warnings to combat CSAM

AI 导读

OpenAI 推出用于识别儿童性虐待材料(CSAM)的图像分类器,并在 ChatGPT 中加入警告和临时封禁机制。该分类器也能检测 AI 生成的 CSAM,部分公司可通过 API 免费使用;早期测试中,它在检出相同数量虐待图像时少标记48%的图像。ChatGPT 将警告尝试相关提示词的用户并暂停账户24小时,重复违规可能导致账户被永久移除。

推荐理由

早期合作测试显示,该分类器在检出相同数量虐待图像时少标记48%的图像,可直接减轻审核人员的筛查负担。

来源:TechCrunch · AI · techcrunch.com