Kertas penyelidikan

OpenAI temui fenomena double descent dalam pembelajaran mendalam

Tajuk asal:Deep double descent

Ringkasan AI

OpenAI melaporkan fenomena double descent lazim berlaku dalam CNN, ResNet dan transformer: apabila saiz model, jumlah data atau masa latihan meningkat, prestasi mula-mula bertambah baik, kemudian merosot, dan bertambah baik semula. Kesan ini sering dapat dielakkan melalui pengawalseliaan yang teliti; penulis menyatakan puncanya belum difahami sepenuhnya dan menyenaraikannya sebagai hala tuju penyelidikan penting.

Maklumat penting

  • OpenAI melaporkan fenomena double descent lazim berlaku dalam CNN,ResNet dan transformer: apabila…
  • Kesan ini sering dapat dielakkan melalui pengawalseliaan yang teliti
  • penulis menyatakan puncanya belum difahami sepenuhnya dan menyenaraikannya sebagai hala tuju…

Sekilas pandang

Diterbitkan pada
Dikemas kini pada
Sumber
OpenAI:官网动态(RSS · 排除企业/客户案例)
Kategori
Kertas penyelidikan
Skor AI
60
Baca asal Baca artikel penuh di sumber asal
Sebab disyorkan

原文指出模型规模、数据量或训练时间增大时性能先降后升的普遍现象,并把它列为值得进一步研究的方向。

Entiti Berkaitan

Sumber dan hak cipta

Artikel ini disusun berdasarkan tajuk pilihan dan ringkasan AI daripada API awam AIHOT, dengan sumber dinyatakan dan pautan balik disediakan; hak cipta teks asal milik media dan penulis asal, laman ini tidak menyalin penuh teks penuh.

Pautan asal · Entri AIHOT

Cara memetik

Apabila memetik artikel ini, kekalkan tajuk, tarikh dan pautan kekal, serta nyatakan sumber sebagai Orange News.

Orange News: OpenAI temui fenomena double descent dalam pembelajaran mendalam. 5 Disember 2019. https://new.nat6.net/ms/news/g3wsst0c4ve4trvbvw1qw9ooc/

Lihat Semua →