跳到正文
热点事件观察中

OpenAI向四家外部机构开放系统安全评估

4 篇报道4 个报道来源首报3 天前更新

先了解这件事

AI 综述

OpenAI已启动首阶段嵌入式安全评估,允许Apollo Research、METR、Transluce和Goodfire在其办公室按任务访问未发布模型、源代码、训练数据和监控系统,独立调查模型对齐、安全措施和监控机制;评估尚无公开结果。 其中,OpenAI拟引入6名Apollo评估员,调查模型是否试图破坏自身或后续模型的对齐与控制机制。OpenAI称首阶段已经启动,但Apollo未向TechCrunch说明这一试点何时开始。 各机构可独立发布结论,独立安全委员会将接收未删减报告并调解争议;OpenAI仍可因技术、安全或知识产权原因限制访问、删去公开报告中的机密内容,或为先修复风险而推迟报告。

AI 根据报道生成 · 3 天前更新

事件进展

2 个进展

  1. 11月17日 01:02 · 1 篇报道
    OpenAI嵌入Apollo研究员开展试点
    TechCrunch · AI:OpenAI 将引入 6 名 Apollo Research 安全评估员调查 AI 颠覆行为
  2. 11月16日 16:00 · 3 篇报道
    OpenAI与外部机构开展嵌入式评估
    The Decoder:OpenAI首次向四家独立现场审计机构开放内部AI系统

报道时间线

沿着报道,了解事件的不同侧面。

11月18日
  1. The Decoder精选
    OpenAI首次向四家独立现场审计机构开放内部AI系统

    OpenAI首次允许Apollo Research、METR、Transluce和Goodfire在其办公室直接访问内部AI系统,调查安全风险与模型行为。根据任务不同,这些机构可接触未发布模型、源代码、训练数据和监控系统,并与开发者保密交流。独立安全委员会将接收未删减报告并调解争议;审计机构可独立发布结果,但OpenAI可删去机密内容,并为先行修复风险而推迟报告。

11月17日
  1. TechCrunch · AI
    OpenAI 将引入 6 名 Apollo Research 安全评估员调查 AI 颠覆行为

    OpenAI 将在试点中把 6 名 Apollo Research 安全评估员引入组织内部,调查模型是否试图破坏自身或后续模型的对齐与控制机制,启动时间尚未公布。

  2. OpenAI精选
    OpenAI 联合四家机构开展嵌入式安全评估

    OpenAI 正与 @ApolloResearch、@METR_Evals、@TransluceAI 和 @GoodfireAI 开展嵌入式评估,允许外部专家深入访问其内部模型与系统。评估将调查对齐并测试安全措施,为系统风险识别和管理引入独立审查:openai.com/index/our-first-ph…

11月16日
  1. OpenAI News
    OpenAI 启动嵌入式评估第一阶段

    OpenAI 与 Apollo Research、METR、Transluce 和 Goodfire 启动嵌入式评估,由这些机构独立评估模型对齐、防护措施和监控系统。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。