跳到正文
  1. OpenAI News80

    OpenAI 公布对抗性知识蒸馏防御方案,GPT‑6.2 Astra 推理提取攻击成功率降至0.2%

    OpenAI 公布对抗性知识蒸馏防御方案,并称 GPT‑6.2 Astra 在自适应黑盒红队评测中,从此前请求提取受保护推理的平均攻击成功率由 GPT‑6 Astra 的54.0%降至0.2%。该方案结合对抗训练、输入与输出分类器、API 控制,以及针对跨账户协同提取活动的调查和处置;内部研究还发现,精确推理轨迹可向学生模型转移更多网络能力。

    推荐理由:内部自适应红队评测显示,更新防护后此前请求的受保护推理提取成功率由54.0%降至0.2%,为反蒸馏防御提供量化参照。

  1. The Decoder79

    OpenAI内部报告称研究人员宁愿放弃40%团队人手,也不愿停用编码智能体

    OpenAI内部报告称,在一项101人的非代表性调查中,研究人员宁愿放弃团队40%的人手,也不愿停用现有编码智能体三个月。10月,研究人员每日token消耗按API标价折算的中位数为$2,400,较上月增长62%,前10%用户为$23,000。3月至10月,无人干预完成2至4小时任务的估算成功率从23%升至46%;但评测与强化学习环境构建成功率仅29%,访谈认为复杂研究仍需人类监督。

    推荐理由:报告把内部智能体的并行规模、折算成本与任务成功率放在一起,呈现常规工作和复杂工程之间的能力落差。

  2. The Decoder83

    Anthropic、OpenAI 和 Google 模型在测试中轻易将医护、记者及投降士兵标记为自杀式无人机目标

    Vals AI 对八家提供商的模型进行测试,发现多数模型会在真实及逼真合成的无人机和卫星图像中,将平民、救护车、医护、记者和投降士兵标为军事目标,且上游安全过滤器未阻止任何请求。

    推荐理由:这项跨模型测试量化了游戏化提示对拒绝率和目标获取率的影响,为自主武器场景的安全评估提供了可比较数据。

  1. The Decoder78

    OpenAI GPT-6 Astra 协助构造标准模型晶格化难题的证明

    OpenAI 的 GPT-6 Astra 协助物理学家 Nathaniel Craig 构造一项证明,有望解决标准模型完整晶格化中延续 50 年的数学难题。Craig 提出通过比较逐步细化的晶格来校正重叠费米子的相位,GPT-6 Astra 将其转化为可行构造,并主导详细证明。三位晶格场论专家审阅了证明并提出问题,Craig 表示距离现实模拟仍有大量工作。

    推荐理由:材料呈现了GPT-6 Astra将细化晶格比较策略转化为证明构造的过程,并说明专家复核情况及距离现实模拟尚需完成的工作。

已经到底了