Reflection détaille la méthode d'entraînement et d'évaluation de la sécurité de son modèle open source Beam
Titre original:Open model safety: lessons from training and evaluating Beam
Résumé IA
Reflection publie un article détaillant la méthode d'entraînement et d'évaluation de la sécurité de Beam, son modèle à poids ouverts, et lance Project Iris, un programme ouvert de recherche sur la sécurité. Beam refuse 89 % des requêtes nuisibles dans les tâches conversationnelles des Iris Safety Evaluations, le meilleur score parmi les modèles à poids ouverts testés, tout en répondant à 82 % des requêtes inoffensives liées à la sécurité ; après le passage du modèle enseignant d'alignement de sécurité de 100B à 501B de paramètres, les refus excessifs ont diminué de 48,7 % en relatif.
Points clés
- Reflection publie un article détaillant la méthode d'entraînement et d'évaluation de la sécurité…
- Beam refuse 89 % des requêtes nuisibles dans les tâches conversationnelles des Iris Safety…
- après le passage du modèle enseignant d'alignement de sécurité de 100B à 501B de paramètres,les…
En bref
- Publié
- Source
- Reflection Blog
- Catégorie
- Articles et recherche
- Score IA
- 66
原文拆解了 Beam 的安全训练方法与双轨评估体系,并给出关键数字,为开源模型安全实践提供可参照的路径。
Source et droits
Cet article s'appuie sur des titres sélectionnés et des résumés IA issus de l'API publique AIHOT, avec attribution et liens de retour. Les droits sur l'original restent ceux des médias et auteurs d'origine ; ce site ne reproduit pas les textes intégraux.
Comment citer
Pour citer cet article, conservez le titre, la date et le lien permanent, et indiquez Orange News comme source.
Orange News : Reflection détaille la méthode d'entraînement et d'évaluation de la sécurité de son modèle open source Beam. 6. novembre 2026. https://new.nat6.net/fr/news/mpv0jfejdzdm2336jgtyj9tde/