论文与研究

OpenAI 训练并部署激活分类器作为前沿模型安全监控层

原文标题:Training activation classifiers for safety and alignment

AI 摘要

OpenAI 自 GPT-5.6 起在其最强模型的内部和外部流量上部署激活分类器(probes),利用模型内部激活逐 token 实时评分,可在生成中途阻断违规回复和工具调用并交由推理模型复审。实验显示 probes 比更大的文本分类器对测试的越狱攻击更鲁棒,准确率随模型能力提升,且在后训练各检查点间迁移良好,但需为新基础模型重新训练,且只能检测可显式训练的已知违规类型。

关键信息

  • OpenAI 自 GPT-5.
  • 6 起在其最强模型的内部和外部流量上部署激活分类器(probes),利用模型内部激活逐 token 实时评分,可在生成中途阻断违规回复和工具调用并交由推理模型复审。
  • 实验显示 probes 比更大的文本分类器对测试的越狱攻击更鲁棒,准确率随模型能力提升,且在后训练各检查点间迁移良好,但需为新基础模型重新训练,且只能检测可显式训练的已知违规类型
  • OpenAI 官方披露激活分类器的架构、训练与部署细节,并给出其相对文本分类器在越狱鲁棒性上的实验对比

速览

发布时间
更新时间
来源
OpenAI:Alignment 研究博客(RSS)
分类
论文与研究
主题
OpenAI / ChatGPT安全对齐
AI 评分
63
阅读原文 前往信息源阅读完整正文
推荐理由

OpenAI 官方披露激活分类器的架构、训练与部署细节,并给出其相对文本分类器在越狱鲁棒性上的实验对比。

相关主题

相关实体

来源与版权

本文基于 AIHOT 公开 API 的精选标题与 AI 摘要整理,已注明来源并回链;原文版权归原媒体与作者所有,本站不镜像全文。

原文链接 · AIHOT 条目

如何引用

引用本文时请保留标题、日期与永久链接,并注明来源为橙子新闻。

橙子新闻:OpenAI 训练并部署激活分类器作为前沿模型安全监控层。2026年11月3日。https://new.nat6.net/news/wlmiqh13694tqabyvu6nzvlrs/

查看全部 →