OpenAI descubre el fenómeno del doble descenso profundo en el aprendizaje profundo
Título original:Deep double descent
Resumen de IA
OpenAI informa de que el fenómeno de double descent está ampliamente presente en CNN, ResNet y transformers: a medida que aumentan el tamaño del modelo, el volumen de datos o el tiempo de entrenamiento, el rendimiento primero mejora, luego empeora y después vuelve a mejorar. Este efecto suele poder evitarse con una regularización cuidadosa; los autores señalan que su causa aún no se comprende del todo y lo sitúan como una dirección de investigación importante.
Puntos clave
- OpenAI informa de que el fenómeno de double descent está ampliamente presente en CNN,ResNet y…
- Este efecto suele poder evitarse con una regularización cuidadosa
- los autores señalan que su causa aún no se comprende del todo y lo sitúan como una dirección de…
Resumen rápido
- Publicado
- Actualizado
- Fuente
- OpenAI:官网动态(RSS · 排除企业/客户案例)
- Categoría
- Artículos e investigación
- Puntuación IA
- 60
原文指出模型规模、数据量或训练时间增大时性能先降后升的普遍现象,并把它列为值得进一步研究的方向。
Entidades relacionadas
Fuente y derechos
Este artículo se basa en títulos seleccionados y resúmenes de IA de la API pública de AIHOT, con atribución y enlaces de vuelta. Los derechos del original pertenecen a los medios y autores originales; este sitio no reproduce textos completos.
Cómo citar
Al citar este artículo, conserva el título, la fecha y el enlace permanente, e indica que la fuente es Orange News.
Orange News: OpenAI descubre el fenómeno del doble descenso profundo en el aprendizaje profundo. 5. diciembre 2019. https://new.nat6.net/es/news/g3wsst0c4ve4trvbvw1qw9ooc/