Related to: Architectures
개요
GoogLeNet은 ILSVRC-2014에서 우승한 CNN Network입니다. GoogLeNet의 개발자들은 딥러닝 네트워크 구조의 혁신에 고무되었고, 더 깊으면서 더 효과적인 네트워크 구조 설계를 위해 노력했습니다.
그 결과 Inception module이라는 구조의 네트워크 구조를 설계했고, 이 Inception module을 활용해 AlexNet보다 더 깊지만 파라미터 수는 121인 GoogLeNet을 설계했습니다.
이렇듯 GoogLeNet은 효율적인 구조설계로 이전보다 파라미터 수와 성능면에서 좋은 성능 보여주는 네트워크였지만, 복잡한 구조와 그로인한 적용의 어려움 때문에 같은 대회에서 2위한 VGGNet보다 덜 활용되는 네트워크입니다.
핵심 개념
Inception module
- 여러 스케일의 Conv layer의 병렬 사용
- 파라미터 수 감소를 위해 1x1 Convolution 사용
- 1x1, 3x3, 5x5 세 개의 Conv layer와 1개의 Max-pooling을 사용
- 각각의 결과를 연결해(concat) 하나의 output을 생성
1x1 Convolution의 역할:
- 채널 수 조절(차원 축소)로 파라미터 수 감소
- 비선형성 추가
Auxiliary Classifier
- Vanishing gradient를 해결하기 위해 도중에 값을 injection
- 낮은 단계에 해당하는 layer에서도 backpropagation되는 gradient signal을 증폭시킴
관련 개념
- AlexNet — GoogLeNet 이전의 대표적인 CNN 모델
- VGGNet — 같은 ILSVRC-2014에서 2위를 한 경쟁 모델
- ResNet — GoogLeNet 이후에 등장한 더 깊은 CNN 구조
- Receptive Field(수용필드, 수용장) — 다양한 크기의 필터 사용의 배경 개념
참조
https://deepai.org/machine-learning-glossary-and-terms/inception-module