Makalah & Riset

Reflection merinci metode pelatihan dan evaluasi keamanan model sumber terbuka Beam

Judul asli:Open model safety: lessons from training and evaluating Beam

Ringkasan AI

Reflection merilis artikel blog yang menjelaskan metode pelatihan dan evaluasi keamanan model bobot terbuka Beam, sekaligus meluncurkan inisiatif riset keamanan sumber terbuka Project Iris. Beam menolak 89% permintaan berbahaya dalam tugas percakapan Iris Safety Evaluations, tertinggi di antara model bobot terbuka yang diuji, sekaligus mematuhi 82% permintaan tidak berbahaya terkait keamanan; setelah model guru keselarasan keamanan ditingkatkan dari 100B menjadi 501B parameter, penolakan berlebihan turun 48,7% secara relatif.

Poin utama

  • Reflection merilis artikel blog yang menjelaskan metode pelatihan dan evaluasi keamanan model…
  • Beam menolak 89% permintaan berbahaya dalam tugas percakapan Iris Safety Evaluations,tertinggi di…
  • setelah model guru keselarasan keamanan ditingkatkan dari 100B menjadi 501B parameter,penolakan…

Ringkasan cepat

Waktu terbit
Sumber
Reflection Blog
Kategori
Makalah & Riset
Topik
Ekosistem Sumber TerbukaKeamanan dan Penyelarasan
Skor AI
66
Baca aslinya Baca artikel lengkap di sumber aslinya
Alasan rekomendasi

原文拆解了 Beam 的安全训练方法与双轨评估体系,并给出关键数字,为开源模型安全实践提供可参照的路径。

Topik terkait

Sumber dan hak cipta

Artikel ini disusun berdasarkan judul pilihan dan ringkasan AI dari API publik AIHOT, dengan sumber yang dicantumkan dan tautan balik; hak cipta konten asli milik media dan penulis aslinya, situs ini tidak menyalin artikel secara penuh.

Tautan asli · Entri AIHOT

Cara mengutip

Saat mengutip artikel ini, sertakan judul, tanggal, dan tautan permanen, serta cantumkan sumber Orange News.

Orange News: Reflection merinci metode pelatihan dan evaluasi keamanan model sumber terbuka Beam. 6 November 2026. https://new.nat6.net/id/news/mpv0jfejdzdm2336jgtyj9tde/

Lihat semua →