OpenAI temui fenomena double descent dalam pembelajaran mendalam
Tajuk asal:Deep double descent
Ringkasan AI
OpenAI melaporkan fenomena double descent lazim berlaku dalam CNN, ResNet dan transformer: apabila saiz model, jumlah data atau masa latihan meningkat, prestasi mula-mula bertambah baik, kemudian merosot, dan bertambah baik semula. Kesan ini sering dapat dielakkan melalui pengawalseliaan yang teliti; penulis menyatakan puncanya belum difahami sepenuhnya dan menyenaraikannya sebagai hala tuju penyelidikan penting.
Maklumat penting
- OpenAI melaporkan fenomena double descent lazim berlaku dalam CNN,ResNet dan transformer: apabila…
- Kesan ini sering dapat dielakkan melalui pengawalseliaan yang teliti
- penulis menyatakan puncanya belum difahami sepenuhnya dan menyenaraikannya sebagai hala tuju…
Sekilas pandang
- Diterbitkan pada
- Dikemas kini pada
- Sumber
- OpenAI:官网动态(RSS · 排除企业/客户案例)
- Kategori
- Kertas penyelidikan
- Skor AI
- 60
原文指出模型规模、数据量或训练时间增大时性能先降后升的普遍现象,并把它列为值得进一步研究的方向。
Entiti Berkaitan
Sumber dan hak cipta
Artikel ini disusun berdasarkan tajuk pilihan dan ringkasan AI daripada API awam AIHOT, dengan sumber dinyatakan dan pautan balik disediakan; hak cipta teks asal milik media dan penulis asal, laman ini tidak menyalin penuh teks penuh.
Cara memetik
Apabila memetik artikel ini, kekalkan tajuk, tarikh dan pautan kekal, serta nyatakan sumber sebagai Orange News.
Orange News: OpenAI temui fenomena double descent dalam pembelajaran mendalam. 5 Disember 2019. https://new.nat6.net/ms/news/g3wsst0c4ve4trvbvw1qw9ooc/