Makalah & Riset

Transluce mengusulkan metode PRBO, menggunakan agen RL untuk otomatis menemukan perilaku patologis langka pada Llama, Qwen, DeepSeek

Judul asli:Surfacing Pathological Behaviors in Language Models

Ringkasan AI

Transluce merilis laporan penelitian yang mengusulkan PRBO (batas bawah kecenderungan) sebagai proksi untuk reward sparse, melatih agen investigasi RL untuk menghasilkan prompt yang alami dan nyata guna memicu perilaku langka tertentu pada model open-weight, mencakup Llama 3.1/4, Qwen 2.5, dan DeepSeek-V3.

Poin utama

  • Transluce merilis laporan penelitian yang mengusulkan PRBO (batas bawah kecenderungan) sebagai…
  • 1/4,Qwen 2.
  • 5,dan DeepSeek-V3.

Ringkasan cepat

Waktu terbit
Waktu diperbarui
Sumber
Transluce(网页)
Kategori
Makalah & Riset
Skor AI
66
Baca aslinya Baca artikel lengkap di sumber aslinya
Alasan rekomendasi

Transluce 提出用 PRBO 和 RL 调查智能体自动激发模型的罕见问题行为,并分析这些行为在真实提示下能否复现。

Entitas Terkait

Sumber dan hak cipta

Artikel ini disusun berdasarkan judul pilihan dan ringkasan AI dari API publik AIHOT, dengan sumber yang dicantumkan dan tautan balik; hak cipta konten asli milik media dan penulis aslinya, situs ini tidak menyalin artikel secara penuh.

Tautan asli · Entri AIHOT

Cara mengutip

Saat mengutip artikel ini, sertakan judul, tanggal, dan tautan permanen, serta cantumkan sumber Orange News.

Orange News: Transluce mengusulkan metode PRBO, menggunakan agen RL untuk otomatis menemukan perilaku patologis langka pada Llama, Qwen, DeepSeek. 5 Juni 2025. https://new.nat6.net/id/news/cmtyo2tx503jqrog01dxgq3is/

Lihat semua →