Статьи и исследования

Reflection подробно описала методы безопасного обучения и оценки открытой модели Beam

Оригинальный заголовок:Open model safety: lessons from training and evaluating Beam

ИИ-резюме

Reflection опубликовала статью о методах безопасного обучения и оценки своей модели с открытыми весами Beam и представила открытую исследовательскую программу по безопасности Project Iris. В диалоговых задачах Iris Safety Evaluations Beam отклонила 89% вредных запросов — лучший результат среди протестированных моделей с открытыми весами, при этом выполнив 82% безопасных безвредных запросов. После увеличения числа параметров учительской модели безопасности с 100B до 501B доля чрезмерных отказов снизилась на 48,7%.

Ключевые моменты

  • Reflection опубликовала статью о методах безопасного обучения и оценки своей модели с открытыми…
  • В диалоговых задачах Iris Safety Evaluations Beam отклонила 89% вредных запросов — лучший…
  • После увеличения числа параметров учительской модели безопасности с 100B до 501B доля чрезмерных…

Кратко

Опубликовано
Источник
Reflection Blog
Категория
Статьи и исследования
Тема
Экосистема открытого кодаБезопасность и выравнивание
Оценка ИИ
66
Читать оригинал Читать полную статью в первоисточнике
Почему это важно

原文拆解了 Beam 的安全训练方法与双轨评估体系,并给出关键数字,为开源模型安全实践提供可参照的路径。

Темы

Источник и авторские права

Статья основана на отобранных заголовках и ИИ-резюме из открытого API AIHOT с указанием источника и обратными ссылками. Авторские права на оригинал принадлежат исходным изданиям и авторам; сайт не воспроизводит полные тексты.

Оригинал статьи · Материал на AIHOT

Как цитировать

При цитировании сохраняйте заголовок, дату и постоянную ссылку, указывая источник: Orange News.

Orange News: Reflection подробно описала методы безопасного обучения и оценки открытой модели Beam. 6 ноября 2026. https://new.nat6.net/ru/news/mpv0jfejdzdm2336jgtyj9tde/

Смотреть все →