跳到正文
OpenAI·· 12 小时前AI 评分69

OpenAI 公布对抗模型蒸馏的新研究

Distillation can reproduce powerful AI capabilities without the safeguards built around them. We’re sharing new research on our work to combat distil...

AI 导读

OpenAI 公布对抗模型蒸馏的新研究,指出蒸馏可以复制强大的 AI 能力,却不包含围绕这些能力构建的安全措施。研究涵盖能力如何迁移,以及 OpenAI 如何检测并干扰协同尝试;相关发现正用于强化其防御并支持全行业的安全措施。openai.com/index/combatting-a…

来源:OpenAI · x.com