Transluce mengusulkan metode PRBO, menggunakan agen RL untuk otomatis menemukan perilaku patologis langka pada Llama, Qwen, DeepSeek
Judul asli:Surfacing Pathological Behaviors in Language Models
Ringkasan AI
Transluce merilis laporan penelitian yang mengusulkan PRBO (batas bawah kecenderungan) sebagai proksi untuk reward sparse, melatih agen investigasi RL untuk menghasilkan prompt yang alami dan nyata guna memicu perilaku langka tertentu pada model open-weight, mencakup Llama 3.1/4, Qwen 2.5, dan DeepSeek-V3.
Poin utama
- Transluce merilis laporan penelitian yang mengusulkan PRBO (batas bawah kecenderungan) sebagai…
- 1/4,Qwen 2.
- 5,dan DeepSeek-V3.
Ringkasan cepat
- Waktu terbit
- Waktu diperbarui
- Sumber
- Transluce(网页)
- Kategori
- Makalah & Riset
- Skor AI
- 66
Transluce 提出用 PRBO 和 RL 调查智能体自动激发模型的罕见问题行为,并分析这些行为在真实提示下能否复现。
Entitas Terkait
Sumber dan hak cipta
Artikel ini disusun berdasarkan judul pilihan dan ringkasan AI dari API publik AIHOT, dengan sumber yang dicantumkan dan tautan balik; hak cipta konten asli milik media dan penulis aslinya, situs ini tidak menyalin artikel secara penuh.
Cara mengutip
Saat mengutip artikel ini, sertakan judul, tanggal, dan tautan permanen, serta cantumkan sumber Orange News.
Orange News: Transluce mengusulkan metode PRBO, menggunakan agen RL untuk otomatis menemukan perilaku patologis langka pada Llama, Qwen, DeepSeek. 5 Juni 2025. https://new.nat6.net/id/news/cmtyo2tx503jqrog01dxgq3is/