Detalyadong ipinaliwanag ng Reflection ang safety training at evaluation method ng open-source model na Beam
Orihinal na pamagat:Open model safety: lessons from training and evaluating Beam
AI summary
Naglabas ng blog post ang Reflection na nagpapaliwanag sa safety training at evaluation method ng open-weight model na Beam, at inilunsad ang open-source safety research initiative na Project Iris. Sa Iris Safety Evaluations dialogue task, tinanggihan ng Beam ang 89% ng harmful requests, ang pinakamataas sa mga nasubok na open-weight model, habang sinunod nito ang 82% ng safety-related harmless requests; matapos tumaas mula 100B patungong 501B parameters ang safety alignment teacher model, bumaba nang 48.7% ang over-refusal.
Mahahalagang impormasyon
- Naglabas ng blog post ang Reflection na nagpapaliwanag sa safety training at evaluation method ng…
- Sa Iris Safety Evaluations dialogue task,tinanggihan ng Beam ang 89% ng harmful requests,ang…
- matapos tumaas mula 100B patungong 501B parameters ang safety alignment teacher model,bumaba nang…
- 7% ang over-refusal.
Mabilisang tingin
- Na-publish noong
- Pinagmulan
- Reflection Blog
- Kategorya
- Mga Papel at Pananaliksik
- AI na marka
- 66
原文拆解了 Beam 的安全训练方法与双轨评估体系,并给出关键数字,为开源模型安全实践提供可参照的路径。
Mga kaugnay na paksa
Pinagmulan at copyright
Ang artikulong ito ay batay sa mga piling pamagat at AI summary mula sa pampublikong API ng AIHOT, may nakasaad na pinagmulan at backlink; ang copyright ng orihinal na teksto ay pag-aari ng orihinal na media at may-akda, hindi namin ginagaya ang buong teksto.
Paano banggitin
Kapag binabanggit ang artikulong ito, panatilihin ang pamagat, petsa at permanenteng link, at banggitin ang Orange News bilang pinagmulan.
Orange News: Detalyadong ipinaliwanag ng Reflection ang safety training at evaluation method ng open-source model na Beam. 6 Nobyembre 2026. https://new.nat6.net/fil/news/mpv0jfejdzdm2336jgtyj9tde/