Mga Papel at Pananaliksik

Detalyadong ipinaliwanag ng Reflection ang safety training at evaluation method ng open-source model na Beam

Orihinal na pamagat:Open model safety: lessons from training and evaluating Beam

AI summary

Naglabas ng blog post ang Reflection na nagpapaliwanag sa safety training at evaluation method ng open-weight model na Beam, at inilunsad ang open-source safety research initiative na Project Iris. Sa Iris Safety Evaluations dialogue task, tinanggihan ng Beam ang 89% ng harmful requests, ang pinakamataas sa mga nasubok na open-weight model, habang sinunod nito ang 82% ng safety-related harmless requests; matapos tumaas mula 100B patungong 501B parameters ang safety alignment teacher model, bumaba nang 48.7% ang over-refusal.

Mahahalagang impormasyon

  • Naglabas ng blog post ang Reflection na nagpapaliwanag sa safety training at evaluation method ng…
  • Sa Iris Safety Evaluations dialogue task,tinanggihan ng Beam ang 89% ng harmful requests,ang…
  • matapos tumaas mula 100B patungong 501B parameters ang safety alignment teacher model,bumaba nang…
  • 7% ang over-refusal.

Mabilisang tingin

Na-publish noong
Pinagmulan
Reflection Blog
Kategorya
Mga Papel at Pananaliksik
Paksa
Open source ecosystemKaligtasan at alignment
AI na marka
66
Basahin ang orihinal Basahin ang buong artikulo sa orihinal na pinagmulan
Dahilan ng rekomendasyon

原文拆解了 Beam 的安全训练方法与双轨评估体系,并给出关键数字,为开源模型安全实践提供可参照的路径。

Mga kaugnay na paksa

Pinagmulan at copyright

Ang artikulong ito ay batay sa mga piling pamagat at AI summary mula sa pampublikong API ng AIHOT, may nakasaad na pinagmulan at backlink; ang copyright ng orihinal na teksto ay pag-aari ng orihinal na media at may-akda, hindi namin ginagaya ang buong teksto.

Link ng orihinal · Entry sa AIHOT

Paano banggitin

Kapag binabanggit ang artikulong ito, panatilihin ang pamagat, petsa at permanenteng link, at banggitin ang Orange News bilang pinagmulan.

Orange News: Detalyadong ipinaliwanag ng Reflection ang safety training at evaluation method ng open-source model na Beam. 6 Nobyembre 2026. https://new.nat6.net/fil/news/mpv0jfejdzdm2336jgtyj9tde/

Tingnan lahat →