아동 안전을 보호하는 방법
원제목:Our Approach to Child Safety
AI 요약
Runway는 Thorn의 '생성형 AI 안전 설계' 원칙을 따라 전 과정에서 아동을 AI 악용으로부터 보호한다. 모델 개발 단계부터 해시 매칭, 아동 안전 분류기, LLM 검토를 통해 훈련 데이터에 미성년자 관련 성적 콘텐츠가 포함되지 않도록 보장하고, 레드팀 테스트로 취약점을 식별한다. 제품 배포 후에는 아동 관련 성적 콘텐츠를 명확히 금지하고, 다층 탐지 시스템으로 사용자 콘텐츠를 스캔하며, 표시된 모든 콘텐츠를 수동 검토하고 미국 실종·학대 아동 센터에 신고한다(2025년 516건 제출). 또한 C2PA 출처 신호로 콘텐츠 생성을 추적하고 업계 조직과 지속적으로 협력해 위협에 대응한다.
핵심 정보
- Runway는 Thorn의 '생성형 AI 안전 설계' 원칙을 따라 전 과정에서 아동을 AI 악용으로부터 보호한다.
- 모델 개발 단계부터 해시 매칭,아동 안전 분류기,LLM 검토를 통해 훈련 데이터에 미성년자 관련 성적 콘텐츠가 포함되지 않도록 보장하고,레드팀 테스트로 취약점을 식별한다.
- 제품 배포 후에는 아동 관련 성적 콘텐츠를 명확히 금지하고,다층 탐지 시스템으로 사용자 콘텐츠를 스캔하며,표시된 모든 콘텐츠를 수동 검토하고 미국 실종·학대 아동 센터에…
- 또한 C2PA 출처 신호로 콘텐츠 생성을 추적하고 업계 조직과 지속적으로 협력해 위협에 대응한다.
한눈에 보기
- 게시
- 업데이트
- 카테고리
- 산업 동향
- AI 점수
- 65
추천 이유
这不是模型发布,但 Runway 首次详细公开了从训练数据到举报 NCMEC 的完整儿童安全链路,有 516 份举报记录,对关心 AI 合规和安全设计的产品人是个重要参考。
관련 엔티티
출처 및 저작권
이 기사는 AIHOT 공개 API가 제공하는 선별 제목과 AI 요약을 바탕으로 하며, 출처를 밝히고 원문으로 연결합니다. 원문 저작권은 원 미디어와 저자에게 있으며, 본 사이트는 전문을 전재하지 않습니다.
인용 방법
본문을 인용할 때는 제목, 날짜, 영구 링크를 유지하고 출처를 Orange News(으)로 표기해 주세요.
Orange News: 아동 안전을 보호하는 방법. 2026년 5월 8일. https://new.nat6.net/ko/news/cmoxivzb2023rsllhka40ewoy/