OpenAI подписала соглашения с Apollo Research, METR, Transluce и Goodfire о запуске первого этапа встроенной оценки безопасности
Оригинальный заголовок:Our first phase of embedded assessments
ИИ-резюме
OpenAI объявила о подписании соглашений с четырьмя независимыми оценочными организациями — Apollo Research, METR, Transluce и Goodfire — о запуске первого этапа встроенной оценки безопасности. Эксперты по оценке получат доступ к внутренним ресурсам, включая checkpoint моделей, исходный код, данные обучения и системы мониторинга. Они оценят вероятность того, что модель будет скрытно действовать вопреки намерениям разработчика, внутреннюю интерпретируемость модели, невыровненное поведение в ходе крупнейших запусков RL-обучения, а также охват качества посттренировочных оценок выравнивания.
Ключевые моменты
- OpenAI объявила о подписании соглашений с четырьмя независимыми оценочными организациями — Apollo…
- Эксперты по оценке получат доступ к внутренним ресурсам,включая checkpoint моделей,исходный…
- Они оценят вероятность того,что модель будет скрытно действовать вопреки намерениям…
Кратко
- Опубликовано
- Обновлено
- Источник
- OpenAI:官网动态(RSS · 排除企业/客户案例)
- Категория
- Индустрия
- Оценка ИИ
- 64
OpenAI 官方披露了四家独立评估机构的评估范围、访问权限和发布规则,读者可以据此了解第三方嵌入式评估的实际运作方式。
Темы
Связанные сущности
Источник и авторские права
Статья основана на отобранных заголовках и ИИ-резюме из открытого API AIHOT с указанием источника и обратными ссылками. Авторские права на оригинал принадлежат исходным изданиям и авторам; сайт не воспроизводит полные тексты.
Как цитировать
При цитировании сохраняйте заголовок, дату и постоянную ссылку, указывая источник: Orange News.
Orange News: OpenAI подписала соглашения с Apollo Research, METR, Transluce и Goodfire о запуске первого этапа встроенной оценки безопасности. 16 ноября 2026. https://new.nat6.net/ru/news/qaj2npptre8jgn8xanq9ic965/