業界動向

OpenAI、Apollo Research、METR、Transluce、Goodfireと契約し第1段階の組み込み型安全評価を開始

原題:Our first phase of embedded assessments

AI 要約

OpenAIは、独立評価機関4社のApollo Research、METR、Transluce、Goodfireと契約を締結し、第1段階の組み込み型安全評価を開始すると発表した。評価の専門家はモデルのcheckpoint、ソースコード、トレーニングデータ、監視システムなどの内部リソースへのアクセスを得て、モデルが開発者の意図に密かに反する可能性、モデル内部の解釈可能性、最大規模のRLトレーニング実行における未アライメントな挙動、ポストトレーニングのアライメント評価の品質カバレッジをそれぞれ評価する。

要点

  • OpenAIは、独立評価機関4社のApollo Research、METR、Transluce、Goodfireと契約を締結し、第1段階の組み込み型安全評価を開始すると発表した。
  • 評価の専門家はモデルのcheckpoint、ソースコード、トレーニングデータ、監視システムなどの内部リソースへのアクセスを得て、モデルが開発者の意図に密かに反する可能性
  • モデル内部の解釈可能性、最大規模のRLトレーニング実行における未アライメントな挙動、ポストトレーニングのアライメント評価の品質カバレッジをそれぞれ評価する

概要

公開日時
更新日時
出典
OpenAI:官网动态(RSS · 排除企业/客户案例)
カテゴリ
業界動向
トピック
OpenAI / ChatGPT業界動向安全とアラインメント
AI スコア
64
原文を読む 情報源で全文を読む
おすすめの理由

OpenAI 官方披露了四家独立评估机构的评估范围、访问权限和发布规则,读者可以据此了解第三方嵌入式评估的实际运作方式。

関連トピック

関連エンティティ

出典と著作権

本記事は AIHOT の公開 API が提供する厳選タイトルと AI 要約に基づいており、出典の明記と元記事へのリンクを行っています。原文の著作権は元の媒体と著者に帰属し、当サイトは全文を転載しません。

原文記事 · AIHOT 記事

引用方法

本記事を引用する際は、タイトル・日付・パーマリンクを保持し、出典をOrange Newsと明記してください。

Orange News:OpenAI、Apollo Research、METR、Transluce、Goodfireと契約し第1段階の組み込み型安全評価を開始。2026年11月16日。https://new.nat6.net/ja/news/qaj2npptre8jgn8xanq9ic965/

すべて見る →