DenseNet : la toile folle de connexions qui recâble l'apprentissage profond
Imaginez : des gradients qui s'éteignent dans le cauchemar d'un CNN à 100 couches. DenseNet ne zappe aucune couche — il les relie toutes, taillant les paramètres tout en libérant le flux d'informations.
⚡ Key Takeaways
- Les connexions tous-à-tous de DenseNet explosent les liens à L(L+1)/2, balayant les gradients évanouissants.
- Concaténation plutôt qu'addition : caractéristiques préservées, économies de paramètres jusqu'à 4x face aux CNN traditionnels.
- Préfigure l'attention des transformers ; prête pour un revival en IA de bord.
Worth sharing?
Get the best AI stories of the week in your inbox — no noise, no spam.
Originally reported by Towards Data Science
