製品とアプリ

OpenAI、CSAM検出用の無料画像分類器を公開しChatGPTの児童安全介入を強化

原題:Strengthening the fight against online child sexual abuse with new tools and support

AI 要約

OpenAIは、AI生成コンテンツを含むCSAMを検出する画像分類器を公開し、審査機関向けにAPIを通じて無償提供すると発表した。テストでは再審査が必要な画像を48%削減でき、falの実測では高信頼度でフラグ付けされた画像の72%が新種のCSAMと確認された。またChatGPTには、児童性的搾取に関わる内容をユーザーが検索しようとした際に警告を表示して中断し、24時間アクセスを停止する新機能を追加した。さらに開発者向けのCSAM対策ガイドラインと法執行機関の調査支援ツールも公開した。

要点

  • OpenAIは、AI生成コンテンツを含むCSAMを検出する画像分類器を公開し、審査機関向けにAPIを通じて無償提供すると発表した。
  • テストでは再審査が必要な画像を48%削減でき、falの実測では高信頼度でフラグ付けされた画像の72%が新種のCSAMと確認された。
  • またChatGPTには、児童性的搾取に関わる内容をユーザーが検索しようとした際に警告を表示して中断し、24時間アクセスを停止する新機能を追加した。
  • さらに開発者向けのCSAM対策ガイドラインと法執行機関の調査支援ツールも公開した

概要

公開日時
出典
OpenAI:官网动态(RSS · 排除企业/客户案例)
カテゴリ
製品とアプリ
トピック
OpenAI / ChatGPT製品アップデート安全とアラインメント
AI スコア
65
原文を読む 情報源で全文を読む
おすすめの理由

原文给出 CSAM 检测工具的具体测试数据和开放方式,以及 ChatGPT 内的干预机制,读者可了解其落地效果。

関連トピック

関連エンティティ

出典と著作権

本記事は AIHOT の公開 API が提供する厳選タイトルと AI 要約に基づいており、出典の明記と元記事へのリンクを行っています。原文の著作権は元の媒体と著者に帰属し、当サイトは全文を転載しません。

原文記事 · AIHOT 記事

引用方法

本記事を引用する際は、タイトル・日付・パーマリンクを保持し、出典をOrange Newsと明記してください。

Orange News:OpenAI、CSAM検出用の無料画像分類器を公開しChatGPTの児童安全介入を強化。2026年11月17日。https://new.nat6.net/ja/news/cidgb5cgquwqxtiydrzykwc2p/

すべて見る →