Reflection подробно описала методы безопасного обучения и оценки открытой модели Beam
Оригинальный заголовок:Open model safety: lessons from training and evaluating Beam
ИИ-резюме
Reflection опубликовала статью о методах безопасного обучения и оценки своей модели с открытыми весами Beam и представила открытую исследовательскую программу по безопасности Project Iris. В диалоговых задачах Iris Safety Evaluations Beam отклонила 89% вредных запросов — лучший результат среди протестированных моделей с открытыми весами, при этом выполнив 82% безопасных безвредных запросов. После увеличения числа параметров учительской модели безопасности с 100B до 501B доля чрезмерных отказов снизилась на 48,7%.
Ключевые моменты
- Reflection опубликовала статью о методах безопасного обучения и оценки своей модели с открытыми…
- В диалоговых задачах Iris Safety Evaluations Beam отклонила 89% вредных запросов — лучший…
- После увеличения числа параметров учительской модели безопасности с 100B до 501B доля чрезмерных…
Кратко
- Опубликовано
- Источник
- Reflection Blog
- Категория
- Статьи и исследования
- Оценка ИИ
- 66
原文拆解了 Beam 的安全训练方法与双轨评估体系,并给出关键数字,为开源模型安全实践提供可参照的路径。
Источник и авторские права
Статья основана на отобранных заголовках и ИИ-резюме из открытого API AIHOT с указанием источника и обратными ссылками. Авторские права на оригинал принадлежат исходным изданиям и авторам; сайт не воспроизводит полные тексты.
Как цитировать
При цитировании сохраняйте заголовок, дату и постоянную ссылку, указывая источник: Orange News.
Orange News: Reflection подробно описала методы безопасного обучения и оценки открытой модели Beam. 6 ноября 2026. https://new.nat6.net/ru/news/mpv0jfejdzdm2336jgtyj9tde/