OpenAI·· 10 天前AI 评分59
OpenAI 转发 Jeffrey Wang 的 CoT 可监控性研究
RT Jeffrey Wang: (1/10) Today, we’re sharing new research from @OpenAI: How does CoT monitorability (no-CoT capability and CoT controllability) evolv...
AI 导读
OpenAI 转发 Jeffrey Wang 关于 CoT 可监控性的研究,考察无 CoT 能力和 CoT 可控性如何随模型训练生命周期演化。研究发现,随着系统趋向更智能,模型越来越难通过其 CoT 进行监控。
来源:OpenAI · x.com