Индустрия

OpenAI подписала соглашения с Apollo Research, METR, Transluce и Goodfire о запуске первого этапа встроенной оценки безопасности

Оригинальный заголовок:Our first phase of embedded assessments

ИИ-резюме

OpenAI объявила о подписании соглашений с четырьмя независимыми оценочными организациями — Apollo Research, METR, Transluce и Goodfire — о запуске первого этапа встроенной оценки безопасности. Эксперты по оценке получат доступ к внутренним ресурсам, включая checkpoint моделей, исходный код, данные обучения и системы мониторинга. Они оценят вероятность того, что модель будет скрытно действовать вопреки намерениям разработчика, внутреннюю интерпретируемость модели, невыровненное поведение в ходе крупнейших запусков RL-обучения, а также охват качества посттренировочных оценок выравнивания.

Ключевые моменты

  • OpenAI объявила о подписании соглашений с четырьмя независимыми оценочными организациями — Apollo…
  • Эксперты по оценке получат доступ к внутренним ресурсам,включая checkpoint моделей,исходный…
  • Они оценят вероятность того,что модель будет скрытно действовать вопреки намерениям…

Кратко

Опубликовано
Обновлено
Источник
OpenAI:官网动态(RSS · 排除企业/客户案例)
Категория
Индустрия
Тема
OpenAI / ChatGPTОтраслевые новостиБезопасность и выравнивание
Оценка ИИ
64
Читать оригинал Читать полную статью в первоисточнике
Почему это важно

OpenAI 官方披露了四家独立评估机构的评估范围、访问权限和发布规则,读者可以据此了解第三方嵌入式评估的实际运作方式。

Темы

Связанные сущности

Источник и авторские права

Статья основана на отобранных заголовках и ИИ-резюме из открытого API AIHOT с указанием источника и обратными ссылками. Авторские права на оригинал принадлежат исходным изданиям и авторам; сайт не воспроизводит полные тексты.

Оригинал статьи · Материал на AIHOT

Как цитировать

При цитировании сохраняйте заголовок, дату и постоянную ссылку, указывая источник: Orange News.

Orange News: OpenAI подписала соглашения с Apollo Research, METR, Transluce и Goodfire о запуске первого этапа встроенной оценки безопасности. 16 ноября 2026. https://new.nat6.net/ru/news/qaj2npptre8jgn8xanq9ic965/

Смотреть все →