跳到正文
The Decoder· Matthias Bastian·· 11 小时前AI 评分70

OpenAI加强GPT-6.2 Astra与GPT-6.2 Sol的内部推理提取防护

OpenAI makes it much harder for attackers to extract how its latest AI models think

AI 导读

OpenAI收紧GPT-6.2 Astra和GPT-6.2 Sol的内部推理提取防护,自动化测试中针对历史请求的攻击成功率从54.0%降至0.2%。针对当前请求的成功率从22.9%降至0.9%,防护措施包括定向训练、消息与工具调用过滤,以及阻止旧模型读取受保护推理的API限制。OpenAI还将部分改进应用于GPT-6 Astra,并称每周封禁数千至数万个参与协同攻击的账户。

来源:The Decoder · the-decoder.com