产品与应用

OpenAI 发布免费 CSAM 检测图像分类器并升级 ChatGPT 儿童安全干预

原文标题:Strengthening the fight against online child sexual abuse with new tools and support

AI 摘要

OpenAI 发布可检测 CSAM(含 AI 生成内容)的图像分类器,通过 API 向审核机构免费开放,测试显示可将需复审图像减少 48%,fal 实测 72% 高置信标记确认为新型 CSAM。同时 ChatGPT 上线新警告,在用户尝试查找涉儿童性剥削内容时打断并暂停访问 24 小时,还发布了面向开发者的 CSAM 治理指南和执法调查支持工具。

关键信息

  • OpenAI 发布可检测 CSAM(含 AI 生成内容)的图像分类器,通过 API 向审核机构免费开放,测试显示可将需复审图像减少 48%,fal 实测 72% 高置信标记确认为新型 CSAM。
  • 同时 ChatGPT 上线新警告,在用户尝试查找涉儿童性剥削内容时打断并暂停访问 24 小时,还发布了面向开发者的 CSAM 治理指南和执法调查支持工具
  • 原文给出 CSAM 检测工具的具体测试数据和开放方式,以及 ChatGPT 内的干预机制,读者可了解其落地效果

速览

发布时间
来源
OpenAI:官网动态(RSS · 排除企业/客户案例)
分类
产品与应用
主题
OpenAI / ChatGPT产品更新安全对齐
AI 评分
65
阅读原文 前往信息源阅读完整正文
推荐理由

原文给出 CSAM 检测工具的具体测试数据和开放方式,以及 ChatGPT 内的干预机制,读者可了解其落地效果。

相关主题

相关实体

来源与版权

本文基于 AIHOT 公开 API 的精选标题与 AI 摘要整理,已注明来源并回链;原文版权归原媒体与作者所有,本站不镜像全文。

原文链接 · AIHOT 条目

如何引用

引用本文时请保留标题、日期与永久链接,并注明来源为橙子新闻。

橙子新闻:OpenAI 发布免费 CSAM 检测图像分类器并升级 ChatGPT 儿童安全干预。2026年11月17日。https://new.nat6.net/news/cidgb5cgquwqxtiydrzykwc2p/

查看全部 →