我们保护儿童安全的方法
原文标题:Our Approach to Child Safety
AI 摘要
Runway公司遵循Thorn的“生成式AI安全设计”原则,全流程保护儿童免受AI滥用。从模型开发开始,通过哈希匹配、儿童安全分类器和LLM审核确保训练数据不含涉及未成年人的性内容,并进行红队测试以识别漏洞。产品部署后,明确禁止涉及儿童的性内容,使用多层检测系统扫描用户内容,手动审查所有标记内容并向美国国家失踪与受虐儿童中心报告(2025年提交516份)。同时实施C2PA来源信号追踪内容生成,并持续与行业组织合作应对威胁。
关键信息
- Runway公司遵循Thorn的“生成式AI安全设计”原则,全流程保护儿童免受AI滥用。
- 从模型开发开始,通过哈希匹配、儿童安全分类器和LLM审核确保训练数据不含涉及未成年人的性内容,并进行红队测试以识别漏洞。
- 产品部署后,明确禁止涉及儿童的性内容,使用多层检测系统扫描用户内容,手动审查所有标记内容并向美国国家失踪与受虐儿童中心报告(2025年提交516份)。
- 同时实施C2PA来源信号追踪内容生成,并持续与行业组织合作应对威胁
- 这不是模型发布,但 Runway 首次详细公开了从训练数据到举报 NCMEC 的完整儿童安全链路,有 516 份举报记录,对关心 AI 合规和安全设计的产品人是个重要参考
速览
- 发布时间
- 更新时间
- 分类
- 行业动态
- AI 评分
- 65
推荐理由
这不是模型发布,但 Runway 首次详细公开了从训练数据到举报 NCMEC 的完整儿童安全链路,有 516 份举报记录,对关心 AI 合规和安全设计的产品人是个重要参考。
相关实体
来源与版权
本文基于 AIHOT 公开 API 的精选标题与 AI 摘要整理,已注明来源并回链;原文版权归原媒体与作者所有,本站不镜像全文。
如何引用
引用本文时请保留标题、日期与永久链接,并注明来源为橙子新闻。
橙子新闻:我们保护儿童安全的方法。2026年5月8日。https://new.nat6.net/news/cmoxivzb2023rsllhka40ewoy/