[Deep Learning] 합성곱 신경망 CNN (Convolution Neural Network) 정리

1. CNN 이란?

: 딥러닝의 가장 대표적인 방법으로 주로 이미지 인식에 많이 사용됨, 기본적인 아이디어는 이미지를 작은 특징에서 복잡한 특징으로 추상화하는 것

 

• 인간의 시신경 구조를 모방한 기술
• 특징맵을 생성하는 필터까지도 학습이 가능해 비전 (vision) 분야에서 성능이 우수함
• 이미지를 인식하기 위해 패턴을 찾는데 특히 유용
• 데이터를 직접 학습하고 패턴을 사용해 이미지 분류
• 이미지의 공간 정보를 유지한 채 학습을 하게 하는 모델 (2D 그대로 작업)
• 사람이 여러 데이터를 보고 기억한 후에 무엇인 지 맞추는 것과 유사함

 

 

 

2. CNN 구조

Fully Connected Layer 만으로 구성된 인공신경망의 입력데이터는 1차원 배열 형태로 한정된다. 한 장이 컬러 사진은 3차원 데이터이다. 배치 모드에 사용되는 여러장의 사진은 4차원 데이터이다. 사진 데이터로 완전연결 신경망을 학습시켜야 할 경우에는 3차원 데이터를 1차원으로 평면화해야 한다. 사진 데이터를 평면화 시키는 과정에서 공간 정보가 손실될 수 밖에 없는데, 결과적으로 이미지 공간 정보 유실로 인한 정보 부족으로 인공 신경망의 특징을 추출 및 학습이 비효율적이게 된다. 이미지의 공간 정보를 유지한 채로 학습이 가능한 모델이 바로 CNN 이다. 

CNN은 위와 같이 이미지의 특징을 추출하는 부분과 클래스를 분류하는 부분으로 나눌 수 있다. 특징 추출(Feature extraction/learning) 영역은 Covnolution Layer와 Pooling Layer를 여러 겹 쌓는 형태로 구성된다. Convolution Layer는 입력 데이터에 필터를 적용한 후 활성화 함수를 반영하는 필수 요소이다. Convolution Layer 다음에 위치하는 Pooling Layer는 선택적인 레이어다. 
CNN의 마지막 부분에는 이미지 분류 (Classification)를 위한 Fully Connetcted Layer가 추가된다. 이미지의 특징을 추출하는 부분과 이미지를 분류하는 부분 사이에 이미지 형태의 데이터를 배열 형태로 만드는 Flatten 레이어가 위치한다. 

 

 

 

합성곱 계층 (Convolution Layer)

: 차원에 따라 입력값 i를 스캔할 때 합성곱 연산을 수행하는 필터를 사용한다. 

 

 

- Filter 적용

: 하나의 합성곱 계층에는 이미지 채널의 개수(흑백은 1, 컬러는 3) 만큼 필터가 존재하며, 각 채널에 할당된 필터를 적용하여 합성곱 계층의 출력 이미지가 생성된다. 

 

 

 

- Stride

: 이미지에 대해 필터를 적용할 때는 필터의 이동량을 의미하는 stride를 설정해아 한다. stride가 2이면 필터는 2칸씩 이동하며 합성곱 계산

 

 

- Padding

입력 이미지에 대해 합성곱을 수행하면, 출력 이미지의 크기는 입력 이미지의 크기보다 작아지게 된다. 합성곱 연산을 수행하면서 이미지의 크기는 점점 더 작아지게 되고, 이미지의 가장자리에 위치한 픽셀의 정보는 점점 사라지게 된다. 이러한 문제점을 해결하기 위한 방법이 패딩(Padding)이다. 패딩은 입력 이미지의 가장자리에 특정 값으로 설정된 픽셀들을 추가함으로써 입력 이미지와 출력 이미지의 크기를 같거나 비슷하게 만드는 역할을 한다. 

이미지의 가장자리에 0의 값을 갖는 픽셀을 추가하는 것을 zero-padding 이라고 하며, CNN에서는 주로 이러한 zero-padding이 이용된다. 

 

 

 

 

 

 

 

Pooling Layer

: 이미지의 크기를 계속 유지한 채 Fully Connected Layer로 가게 된다면 연산이 기하 급수적으로 늘어나게 된다. 따라서 합성곱 계층 다음에 적용되는 다운 샘플링 작업을 Pooling이라고 한다. 

최대 풀링	평균 풀링
각 풀링 작업은 현재 뷰(view)에서 최대값을 선택합니다.	각 풀링 작업은 현재 뷰(view)의 값들의 평균을 취합니다.
• 탐지된 특징을 보존 • 가장 보편적으로 사용	• 피쳐맵의 다운샘플링 • LeNet에 사용

 

-> 주로 Max Pooling 이 사용되며, Pooling Layer를 이용하는 경우, 이미지 구성 요소들의 이동 및 회전에 의해 CNN의 출력값이 영향을 받는 문제를 완화할 수 있다. 또한 오버피팅 문제를 어느정도 방지 가능하다. 

 

 

 

 

 

Fully Connected Layer (FC)

: 각 입력이 모든 뉴런에 연결된 평평한 입력에서 작동한다. 존재한다면, FC 계층은 일반적으로 CNN 구조의 끝부분에서 발견되며, 클래스 점수와 같은 목표를 최적화하는 데에 사용될 수 있다. 

 

 

 

 

 

 

3. 필터 하이퍼파라미터 

: 입력 볼륨 크기의 길이 I, 필터의 길이 F, 제로패딩(zero-padding)의 양 P, 스트라이드 S에 대하여, 피처맵의 출력크기 OO는 다음과 같이 주어진다.