OpenAI向四家外部机构开放系统安全评估
先了解这件事
OpenAI已启动首阶段嵌入式安全评估,允许Apollo Research、METR、Transluce和Goodfire在其办公室按任务访问未发布模型、源代码、训练数据和监控系统,独立调查模型对齐、安全措施和监控机制;评估尚无公开结果。 其中,OpenAI拟引入6名Apollo评估员,调查模型是否试图破坏自身或后续模型的对齐与控制机制。OpenAI称首阶段已经启动,但Apollo未向TechCrunch说明这一试点何时开始。 各机构可独立发布结论,独立安全委员会将接收未删减报告并调解争议;OpenAI仍可因技术、安全或知识产权原因限制访问、删去公开报告中的机密内容,或为先修复风险而推迟报告。
AI 根据报道生成 · 3 天前更新
事件进展
2 个进展
- 11月17日 01:02 · 1 篇报道OpenAI嵌入Apollo研究员开展试点TechCrunch · AI:OpenAI 将引入 6 名 Apollo Research 安全评估员调查 AI 颠覆行为
- 11月16日 16:00 · 3 篇报道OpenAI与外部机构开展嵌入式评估The Decoder:OpenAI首次向四家独立现场审计机构开放内部AI系统
报道时间线
沿着报道,了解事件的不同侧面。
- The Decoder精选OpenAI首次向四家独立现场审计机构开放内部AI系统
OpenAI首次允许Apollo Research、METR、Transluce和Goodfire在其办公室直接访问内部AI系统,调查安全风险与模型行为。根据任务不同,这些机构可接触未发布模型、源代码、训练数据和监控系统,并与开发者保密交流。独立安全委员会将接收未删减报告并调解争议;审计机构可独立发布结果,但OpenAI可删去机密内容,并为先行修复风险而推迟报告。
- TechCrunch · AIOpenAI 将引入 6 名 Apollo Research 安全评估员调查 AI 颠覆行为
OpenAI 将在试点中把 6 名 Apollo Research 安全评估员引入组织内部,调查模型是否试图破坏自身或后续模型的对齐与控制机制,启动时间尚未公布。
- OpenAI精选OpenAI 联合四家机构开展嵌入式安全评估
OpenAI 正与 @ApolloResearch、@METR_Evals、@TransluceAI 和 @GoodfireAI 开展嵌入式评估,允许外部专家深入访问其内部模型与系统。评估将调查对齐并测试安全措施,为系统风险识别和管理引入独立审查:openai.com/index/our-first-ph…
- OpenAI NewsOpenAI 启动嵌入式评估第一阶段
OpenAI 与 Apollo Research、METR、Transluce 和 Goodfire 启动嵌入式评估,由这些机构独立评估模型对齐、防护措施和监控系统。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。