OpenAI、Apollo Research、METR、Transluce、Goodfireと契約し第1段階の組み込み型安全評価を開始
原題:Our first phase of embedded assessments
AI 要約
OpenAIは、独立評価機関4社のApollo Research、METR、Transluce、Goodfireと契約を締結し、第1段階の組み込み型安全評価を開始すると発表した。評価の専門家はモデルのcheckpoint、ソースコード、トレーニングデータ、監視システムなどの内部リソースへのアクセスを得て、モデルが開発者の意図に密かに反する可能性、モデル内部の解釈可能性、最大規模のRLトレーニング実行における未アライメントな挙動、ポストトレーニングのアライメント評価の品質カバレッジをそれぞれ評価する。
要点
- OpenAIは、独立評価機関4社のApollo Research、METR、Transluce、Goodfireと契約を締結し、第1段階の組み込み型安全評価を開始すると発表した。
- 評価の専門家はモデルのcheckpoint、ソースコード、トレーニングデータ、監視システムなどの内部リソースへのアクセスを得て、モデルが開発者の意図に密かに反する可能性
- モデル内部の解釈可能性、最大規模のRLトレーニング実行における未アライメントな挙動、ポストトレーニングのアライメント評価の品質カバレッジをそれぞれ評価する
概要
- 公開日時
- 更新日時
- カテゴリ
- 業界動向
- AI スコア
- 64
おすすめの理由
OpenAI 官方披露了四家独立评估机构的评估范围、访问权限和发布规则,读者可以据此了解第三方嵌入式评估的实际运作方式。
関連エンティティ
出典と著作権
本記事は AIHOT の公開 API が提供する厳選タイトルと AI 要約に基づいており、出典の明記と元記事へのリンクを行っています。原文の著作権は元の媒体と著者に帰属し、当サイトは全文を転載しません。
引用方法
本記事を引用する際は、タイトル・日付・パーマリンクを保持し、出典をOrange Newsと明記してください。
Orange News:OpenAI、Apollo Research、METR、Transluce、Goodfireと契約し第1段階の組み込み型安全評価を開始。2026年11月16日。https://new.nat6.net/ja/news/qaj2npptre8jgn8xanq9ic965/