Makalah & Riset

OpenAI Menemukan Fenomena Deep Double Descent dalam Pembelajaran Mendalam

Judul asli:Deep double descent

Ringkasan AI

OpenAI melaporkan fenomena double descent umum terjadi pada CNN, ResNet, dan transformer: seiring bertambahnya ukuran model, jumlah data, atau waktu pelatihan, performa awalnya membaik, lalu memburuk, kemudian membaik lagi. Efek ini sering dapat dihindari melalui regularisasi yang cermat; penulis menyatakan penyebabnya belum sepenuhnya dipahami dan menjadikannya sebagai arah riset penting.

Poin utama

  • OpenAI melaporkan fenomena double descent umum terjadi pada CNN,ResNet,dan transformer: seiring…
  • Efek ini sering dapat dihindari melalui regularisasi yang cermat
  • penulis menyatakan penyebabnya belum sepenuhnya dipahami dan menjadikannya sebagai arah riset…

Ringkasan cepat

Waktu terbit
Waktu diperbarui
Sumber
OpenAI:官网动态(RSS · 排除企业/客户案例)
Kategori
Makalah & Riset
Skor AI
60
Baca aslinya Baca artikel lengkap di sumber aslinya
Alasan rekomendasi

原文指出模型规模、数据量或训练时间增大时性能先降后升的普遍现象,并把它列为值得进一步研究的方向。

Entitas Terkait

Sumber dan hak cipta

Artikel ini disusun berdasarkan judul pilihan dan ringkasan AI dari API publik AIHOT, dengan sumber yang dicantumkan dan tautan balik; hak cipta konten asli milik media dan penulis aslinya, situs ini tidak menyalin artikel secara penuh.

Tautan asli · Entri AIHOT

Cara mengutip

Saat mengutip artikel ini, sertakan judul, tanggal, dan tautan permanen, serta cantumkan sumber Orange News.

Orange News: OpenAI Menemukan Fenomena Deep Double Descent dalam Pembelajaran Mendalam. 5 Desember 2019. https://new.nat6.net/id/news/g3wsst0c4ve4trvbvw1qw9ooc/

Lihat semua →