Kertas penyelidikan

Reflection huraikan kaedah latihan dan penilaian keselamatan model sumber terbuka Beam

Tajuk asal:Open model safety: lessons from training and evaluating Beam

Ringkasan AI

Reflection menerbitkan catatan blog yang menerangkan kaedah latihan dan penilaian keselamatan model pemberat terbuka Beam, serta memperkenalkan inisiatif penyelidikan keselamatan sumber terbuka Project Iris. Beam menolak 89% permintaan berbahaya dalam tugasan dialog Iris Safety Evaluations, tertinggi antara model pemberat terbuka yang diuji, sambil mematuhi 82% permintaan tidak berbahaya berkaitan keselamatan; selepas model guru penjajaran keselamatan dinaikkan daripada 100B kepada 501B parameter, penolakan berlebihan menurun 48.7% secara relatif.

Maklumat penting

  • Reflection menerbitkan catatan blog yang menerangkan kaedah latihan dan penilaian keselamatan…
  • Beam menolak 89% permintaan berbahaya dalam tugasan dialog Iris Safety Evaluations,tertinggi…
  • selepas model guru penjajaran keselamatan dinaikkan daripada 100B kepada 501B parameter,penolakan…
  • 7% secara relatif.

Sekilas pandang

Diterbitkan pada
Sumber
Reflection Blog
Kategori
Kertas penyelidikan
Topik
Ekosistem sumber terbukaKeselamatan dan penjajaran
Skor AI
66
Baca asal Baca artikel penuh di sumber asal
Sebab disyorkan

原文拆解了 Beam 的安全训练方法与双轨评估体系,并给出关键数字,为开源模型安全实践提供可参照的路径。

Topik berkaitan

Sumber dan hak cipta

Artikel ini disusun berdasarkan tajuk pilihan dan ringkasan AI daripada API awam AIHOT, dengan sumber dinyatakan dan pautan balik disediakan; hak cipta teks asal milik media dan penulis asal, laman ini tidak menyalin penuh teks penuh.

Pautan asal · Entri AIHOT

Cara memetik

Apabila memetik artikel ini, kekalkan tajuk, tarikh dan pautan kekal, serta nyatakan sumber sebagai Orange News.

Orange News: Reflection huraikan kaedah latihan dan penilaian keselamatan model sumber terbuka Beam. 6 November 2026. https://new.nat6.net/ms/news/mpv0jfejdzdm2336jgtyj9tde/

Lihat Semua →