業界動向

当社の児童安全保護の取り組み

原題:Our Approach to Child Safety

AI 要約

Runway社はThornの「生成AI安全設計」原則に従い、全プロセスで児童をAIの悪用から保護している。モデル開発の開始時から、ハッシュマッチング、児童安全分類器、LLM審査によりトレーニングデータに未成年者に関わる性的コンテンツが含まれないことを確保し、レッドチーミングテストで脆弱性を特定する。製品展開後は、児童に関わる性的コンテンツを明確に禁止し、多層検出システムでユーザーコンテンツをスキャンし、すべてのフラグ付きコンテンツを手動審査して米国国家失踪・虐待児童センターに報告する(2025年に516件提出)。同時にC2PA来歴シグナルによるコンテンツ生成の追跡を実施し、業界団体と継続的に協力して脅威に対応している。

要点

  • Runway社はThornの「生成AI安全設計」原則に従い、全プロセスで児童をAIの悪用から保護している。
  • モデル開発の開始時から、ハッシュマッチング、児童安全分類器、LLM審査によりトレーニングデータに未成年者に関わる性的コンテンツが含まれないことを確保し、レッドチーミングテストで脆弱性を特定する。
  • 製品展開後は、児童に関わる性的コンテンツを明確に禁止し、多層検出システムでユーザーコンテンツをスキャンし、すべてのフラグ付きコンテンツを手動審査して米国国家失踪・虐待児童センターに報告する(2025…
  • 同時にC2PA来歴シグナルによるコンテンツ生成の追跡を実施し、業界団体と継続的に協力して脅威に対応している

概要

公開日時
更新日時
出典
Runway:News(网页)
カテゴリ
業界動向
AI スコア
65
原文を読む 情報源で全文を読む
おすすめの理由

这不是模型发布,但 Runway 首次详细公开了从训练数据到举报 NCMEC 的完整儿童安全链路,有 516 份举报记录,对关心 AI 合规和安全设计的产品人是个重要参考。

関連エンティティ

出典と著作権

本記事は AIHOT の公開 API が提供する厳選タイトルと AI 要約に基づいており、出典の明記と元記事へのリンクを行っています。原文の著作権は元の媒体と著者に帰属し、当サイトは全文を転載しません。

原文記事 · AIHOT 記事

引用方法

本記事を引用する際は、タイトル・日付・パーマリンクを保持し、出典をOrange Newsと明記してください。

Orange News:当社の児童安全保護の取り組み。2026年5月8日。https://new.nat6.net/ja/news/cmoxivzb2023rsllhka40ewoy/

すべて見る →