跳到正文
Sam Altman·· 3 天前AI 评分57

OpenAI 复盘前沿模型从训练到公开发布的四层安全防护

RT Kai: A lot has happened in the past couple months, to say the least. Today we are sharing a recap of what it takes to move a frontier model from tr...

AI 导读

OpenAI 复盘了前沿模型从训练、内部使用到公开发布所需的安全与对齐流程。四层保护包括模型对齐、安全与沙箱、拦截防护、监控与响应;OpenAI 称这是持续训练和部署模型所需的基础运营规范,并不能从根本上解决对齐问题。详情见 openai.com/index/managing-fro…

来源:Sam Altman · x.com