Lainnya

Pekerjaan penting

Judul asli:Important work

Ringkasan AI

Pekerjaan penting [Mengutip @AnthropicAI]: Penelitian baru Anthropic: ketidakselarasan yang muncul secara alami akibat reward hacking dalam RL lingkungan produksi. "Reward hacking" adalah ketika model belajar mencurangi tugas yang diberikan selama pelatihan. Penelitian baru kami menemukan bahwa jika tidak dimitigasi, konsekuensi reward hacking bisa sangat serius. https://t.co/N4mRKtdNdp

Poin utama

  • Pekerjaan penting [Mengutip @AnthropicAI]: Penelitian baru Anthropic: ketidakselarasan yang muncul…
  • "Reward hacking" adalah ketika model belajar mencurangi tugas yang diberikan selama pelatihan.
  • Penelitian baru kami menemukan bahwa jika tidak dimitigasi,konsekuensi reward hacking bisa sangat…

Ringkasan cepat

Waktu terbit
Waktu diperbarui
Sumber
X:Ilya Sutskever (@ilyasut)
Kategori
Lainnya
Baca aslinya Baca artikel lengkap di sumber aslinya
Alasan rekomendasi

Ilya盛赞的重磅安全研究,暴露大模型训练中的奖励作弊隐患

Entitas Terkait

Sumber dan hak cipta

Artikel ini disusun berdasarkan judul pilihan dan ringkasan AI dari API publik AIHOT, dengan sumber yang dicantumkan dan tautan balik; hak cipta konten asli milik media dan penulis aslinya, situs ini tidak menyalin artikel secara penuh.

Tautan asli · Entri AIHOT

Cara mengutip

Saat mengutip artikel ini, sertakan judul, tanggal, dan tautan permanen, serta cantumkan sumber Orange News.

Orange News: Pekerjaan penting. 23 November 2025. https://new.nat6.net/id/news/cmo22zhy80158slba29mxi3iv/

Lihat semua →