OpenAI公布对抗模型蒸馏研究
热点事件持续更新
OpenAI公布对抗模型蒸馏研究
3 篇报道3 个报道来源首报13 小时前更新
先了解这件事
AI 综述
OpenAI公布对抗模型蒸馏研究,称蒸馏可复制强大AI能力,却不会一并复制围绕这些能力建立的安全措施。 研究涉及能力迁移,以及OpenAI检测并干扰协同蒸馏尝试的方法。OpenAI称,相关发现正用于加强自身防御,并支持行业安全措施。
AI 根据报道生成 · 13 小时前更新
最新进展11月21日 03:33
OpenAI 公布对抗模型蒸馏的新研究报道时间线
沿着报道,了解事件的不同侧面。
11月21日
- The DecoderOpenAI加强GPT-6.2 Astra与GPT-6.2 Sol的内部推理提取防护
OpenAI收紧GPT-6.2 Astra和GPT-6.2 Sol的内部推理提取防护,自动化测试中针对历史请求的攻击成功率从54.0%降至0.2%。针对当前请求的成功率从22.9%降至0.9%,防护措施包括定向训练、消息与工具调用过滤,以及阻止旧模型读取受保护推理的API限制。OpenAI还将部分改进应用于GPT-6 Astra,并称每周封禁数千至数万个参与协同攻击的账户。
- OpenAIOpenAI 公布对抗模型蒸馏的新研究
OpenAI 公布对抗模型蒸馏的新研究,指出蒸馏可以复制强大的 AI 能力,却不包含围绕这些能力构建的安全措施。研究涵盖能力如何迁移,以及 OpenAI 如何检测并干扰协同尝试;相关发现正用于强化其防御并支持全行业的安全措施。openai.com/index/combatting-a…
11月20日
- OpenAI News精选OpenAI 公布对抗性知识蒸馏防御方案,GPT‑6.2 Astra 推理提取攻击成功率降至0.2%
OpenAI 公布对抗性知识蒸馏防御方案,并称 GPT‑6.2 Astra 在自适应黑盒红队评测中,从此前请求提取受保护推理的平均攻击成功率由 GPT‑6 Astra 的54.0%降至0.2%。该方案结合对抗训练、输入与输出分类器、API 控制,以及针对跨账户协同提取活动的调查和处置;内部研究还发现,精确推理轨迹可向学生模型转移更多网络能力。
本事件热度走势
- 可比范围当前
- 7
- 可比范围峰值
- 1011月21日 04:00
- 近 24 小时变化
- –
02.557.510
04:0006:0008:0010:0012:0014:0016:00
趋势仅比较持续完整观测到的相同主体,范围可能小于当前热度统计。移动指针或点击图表查看每小时热度;键盘可用左右方向键切换。