07.7 대표적인 CNN

지금까지 제안된 CNN 네트워크의 구성은 다양합니다. 이번 절에서는 그중에서도 특히 중요한 네트워크를 두 개 소개합니다. 하나는 CNN의 원조인 LeNet^[20]이고, 다른 하나는 딥러닝이 주목받도록 이끈 AlexNet^[21]입니다.

7.7.1 LeNet

LeNet은 손글씨 숫자를 인식하는 네트워크로, 1998년에 제안되었습니다. [그림 7-27]과 같이 합성곱 계층과 풀링 계층(정확히는 단순히 ‘원소를 줄이기’만 하는 서브샘플링 계층)을 반복하고, 마지막으로 완전연결 계층을 거치면서 결과를 출력합니다.

그림 7-27 LeNet의 구성^[20]

LeNet과 ‘현재의 CNN’을 비교하면 몇 가지 면에서 차이가 있습니다. 첫 번째 차이는 활성화 함수입니다. LeNet은 시그모이드 함수를 사용하는 데 반해, 현재는 주로 ReLU를 사용합니다. 또, 원래의 LeNet은 서브샘플링을 하여 중간 데이터의 크기가 작아지지만 현재는 최대 풀링이 주류입니다.

이처럼 LeNet과 현재의 CNN은 얼마간 차이가 있지만 큰 차이는 아닙니다. LeNet이 지금부터 거의 20년 전에 제안된 ‘첫 CNN’이라는 점을 생각하면 놀라운 일이죠.

도로시가 1998년 얀 르쿤이 제안한 클래식 LeNet 합성곱 철망 모형을 바라보며 시그모이드와 서브샘플링으로 이뤄진 초기 구조의 신기함을 관찰하고 있어요.

도로시의 LeNet 고전 탐험

• 도로시: “지니, 1998년에 나온 LeNet은 시그모이드(Sigmoid) 함수를 활성화 함수로 썼고 서브샘플링 방식으로 공간을 줄였네! 지금 쓰이는 현대식 CNN의 기본 틀(Conv-Pool-FC)을 무려 20년 전에 벌써 다 완성해 놨다니 정말 대단해!”
• 지니: “맞아! 이미지 데이터의 국소적 특징을 필터로 학습한다는 사상은 이때 이미 완벽히 정립된 셈이란다.”

7.7.2 AlexNet

LeNet과 비교해 훨씬 최근인 2012년에 발표된 AlexNet은 딥러닝 열풍을 일으키는 데 큰 역할을 했습니다. [그림 7-28]에서 보듯 그 구성은 기본적으로 LeNet과 크게 다르지 않습니다.

그림 7-28 AlexNet의 구성^[21]

AlexNet은 합성곱 계층과 풀링 계층을 거듭하며 마지막으로 완전연결 계층을 거쳐 결과를 출력합니다. LeNet에서 큰 구조는 바뀌지 않습니다만, AlexNet에서는 다음과 같은 변화를 주었습니다.

• 활성화 함수로 ReLU를 이용한다.
• LRN^{Local Response Normalization}이라는 국소적 정규화를 실시하는 계층을 이용한다.
• 드롭아웃을 사용한다.

지니가 GPU 부스터 카드를 장착하고 활성화 함수로 ReLU를 쓰며 드롭아웃을 적용해, 2012년 이미지넷 대회 우승컵을 들어올린 AlexNet의 혁신 사항을 브리핑하고 있어요.

지니의 AlexNet 혁명 브리핑

• 지니: “도로시, AlexNet은 LeNet과 뼈대는 비슷하지만 활성화 함수를 ReLU로 바꾸고, 정규화(LRN)와 드롭아웃을 적용했으며, 결정적으로 GPU를 통한 병렬 연산을 도입했어. 이 조화가 딥러닝 열풍의 도화선이 된 거란다.”
• 도로시: “하드웨어 혁신(GPU)과 대량의 이미지넷 데이터셋 덕분에 딥러닝이 비로소 제 성능을 발휘하며 역사를 새로 쓴 시점이구나!”

이상에서 보듯 네트워크 구성 면에서는 LeNet과 AlexNet에 큰 차이는 없습니다. 그러나 이를 둘러싼 환경과 컴퓨터 기술이 큰 진보를 이룬 것이죠. 대량의 데이터를 누구나 얻을 수 있게 되었고, 병렬 계산에 특화된 GPU가 보급되면서 대량의 연산을 고속으로 수행할 수 있게 되었습니다. 빅 데이터와 GPU, 이것이 딥러닝 발전의 큰 원동력입니다.

NOTE_ 딥러닝(심층 신경망)에는 대부분 수많은 매개변수가 쓰입니다. 그래서 학습하려면 엄청난 양의 계산을 해야만 하죠. 또한, 그 매개변수를 ‘피팅^{fitting, 적합}‘시키는 데이터도 대량으로 필요합니다. GPU와 빅 데이터는 이런 문제에 해결책을 던졌다고 말할 수 있습니다.

도로시와 토토가 $3 imes 3$ 소형 필터 블록들을 계단식으로 촘촘하고 깊게 쌓아 올린 VGG 네트워크의 단순한 구조미를 보고 기뻐하고 있어요.

도로시의 VGG 단순미 감상

• 도로시: “지니! 뒤이어 등장한 VGG 네트워크는 복잡한 크기 필터 대신 오직 $3 imes 3$ 합성곱 필터와 2x2 풀링 계층만으로 단순하고 깊게 채널을 늘려갔는데도, 성과가 아주 뛰어나대!”
• 지니: “맞아! 필터 크기를 고정하고 층만 깊게 쌓는 직관적이고 표준적인 아키텍처라서, 지금도 전이 학습(Transfer Learning) 등에서 가장 즐겨 쓰이는 든든한 모델이지.”
• 토토: “왈왈! (블록 위를 깡충 뛰며) 규칙이 심플해서 좋다 멍!”