DenseNet의 미친 연결망: 딥러닝 백본을 재배선하다
100층 CNN에서 기울기가 꺼져가는 지옥을 상상해 봐. DenseNet은 레이어를 건너뛰지 않고 모든 레이어를 연결해 버려. 파라미터는 줄이고 정보 흐름은 폭발시킨다.
⚡ Key Takeaways
- DenseNet의 모든-대-모든 연결이 L(L+1)/2 링크 폭발시켜 기울기 소실 날려버림.
- 더하기 대신 연결로 특징 보존; 기존 CNN 대비 4배 파라미터 절감.
- 트랜스포머 어텐션 예고; 엣지 AI 부활 직전.
Worth sharing?
Get the best AI stories of the week in your inbox — no noise, no spam.
Originally reported by Towards Data Science
