Related to: Deep Learning
GoogLeNet(Inception v1)
GoogLeNet은 ILSVRC-2014에서 우승한 CNN Network입니다.GoogLeNet의 개발자들은 2014년 당시 딥러닝 모델의 수치적인 성능 향상이라는 수치적인 점 보다는 Convolution을 이용한 딥러닝 네트워크 구조의 혁신에 고무되었고, 더 깊으면서 더 효과적인 네트워크 구조 설계를 위해 노력했습니다.
그 결과 Inception module이라는 구조의 네트워크 구조를 설계했고, 이 Inception module을 활용해 AlexNet보다 더 깊지만 파라미터 수는 121인 GoogLeNet을 설계했습니다.
이렇듯 GoogLeNet은 효율적인 구조설계로 이전보다 파라미터 수와 성능면에서 좋은 성능 보여주는 네트워크였지만, 복잡한 구조와 그로인한 적용의 어려움 때문에 같은 대회에서 2위한 VGGNet보다 덜 활용되는 네트워크입니다.
특징
-
Inception module
- 여러 스케일의 Conv layer의 병렬 사용
- 파라미터 수 감소를 위해 1x1 Covolution 사용
- 1x1, 3x3, 5x5 세 개의 Conv layer와 1개의 Max-pooling을 사용
- 각각의 결과를 연결해(concat) 하나의 output을 생성
-
Auxiliary Classifier
- Vanishing gradient를 해결하기 위해 도중에 값을 injection
- 낮은 단계에 해당하는 layer에서도 backpropagation되는 gradient signal을 증폭시킴
참조
https://deepai.org/machine-learning-glossary-and-terms/inception-module