OpenAI、CSAM検出用の無料画像分類器を公開しChatGPTの児童安全介入を強化
原題:Strengthening the fight against online child sexual abuse with new tools and support
AI 要約
OpenAIは、AI生成コンテンツを含むCSAMを検出する画像分類器を公開し、審査機関向けにAPIを通じて無償提供すると発表した。テストでは再審査が必要な画像を48%削減でき、falの実測では高信頼度でフラグ付けされた画像の72%が新種のCSAMと確認された。またChatGPTには、児童性的搾取に関わる内容をユーザーが検索しようとした際に警告を表示して中断し、24時間アクセスを停止する新機能を追加した。さらに開発者向けのCSAM対策ガイドラインと法執行機関の調査支援ツールも公開した。
要点
- OpenAIは、AI生成コンテンツを含むCSAMを検出する画像分類器を公開し、審査機関向けにAPIを通じて無償提供すると発表した。
- テストでは再審査が必要な画像を48%削減でき、falの実測では高信頼度でフラグ付けされた画像の72%が新種のCSAMと確認された。
- またChatGPTには、児童性的搾取に関わる内容をユーザーが検索しようとした際に警告を表示して中断し、24時間アクセスを停止する新機能を追加した。
- さらに開発者向けのCSAM対策ガイドラインと法執行機関の調査支援ツールも公開した
概要
- 公開日時
- カテゴリ
- 製品とアプリ
- AI スコア
- 65
おすすめの理由
原文给出 CSAM 检测工具的具体测试数据和开放方式,以及 ChatGPT 内的干预机制,读者可了解其落地效果。
関連エンティティ
出典と著作権
本記事は AIHOT の公開 API が提供する厳選タイトルと AI 要約に基づいており、出典の明記と元記事へのリンクを行っています。原文の著作権は元の媒体と著者に帰属し、当サイトは全文を転載しません。
引用方法
本記事を引用する際は、タイトル・日付・パーマリンクを保持し、出典をOrange Newsと明記してください。
Orange News:OpenAI、CSAM検出用の無料画像分類器を公開しChatGPTの児童安全介入を強化。2026年11月17日。https://new.nat6.net/ja/news/cidgb5cgquwqxtiydrzykwc2p/