OpenAI 发布免费 CSAM 检测图像分类器并升级 ChatGPT 儿童安全干预
原文标题:Strengthening the fight against online child sexual abuse with new tools and support
AI 摘要
OpenAI 发布可检测 CSAM(含 AI 生成内容)的图像分类器,通过 API 向审核机构免费开放,测试显示可将需复审图像减少 48%,fal 实测 72% 高置信标记确认为新型 CSAM。同时 ChatGPT 上线新警告,在用户尝试查找涉儿童性剥削内容时打断并暂停访问 24 小时,还发布了面向开发者的 CSAM 治理指南和执法调查支持工具。
关键信息
- OpenAI 发布可检测 CSAM(含 AI 生成内容)的图像分类器,通过 API 向审核机构免费开放,测试显示可将需复审图像减少 48%,fal 实测 72% 高置信标记确认为新型 CSAM。
- 同时 ChatGPT 上线新警告,在用户尝试查找涉儿童性剥削内容时打断并暂停访问 24 小时,还发布了面向开发者的 CSAM 治理指南和执法调查支持工具
- 原文给出 CSAM 检测工具的具体测试数据和开放方式,以及 ChatGPT 内的干预机制,读者可了解其落地效果
速览
- 发布时间
- 分类
- 产品与应用
- AI 评分
- 65
推荐理由
原文给出 CSAM 检测工具的具体测试数据和开放方式,以及 ChatGPT 内的干预机制,读者可了解其落地效果。
相关实体
来源与版权
本文基于 AIHOT 公开 API 的精选标题与 AI 摘要整理,已注明来源并回链;原文版权归原媒体与作者所有,本站不镜像全文。
如何引用
引用本文时请保留标题、日期与永久链接,并注明来源为橙子新闻。
橙子新闻:OpenAI 发布免费 CSAM 检测图像分类器并升级 ChatGPT 儿童安全干预。2026年11月17日。https://new.nat6.net/news/cidgb5cgquwqxtiydrzykwc2p/