[CNN] 합성곱 신경망 기반의 다변량 시계열 데이터 회귀모형

🧑🏻‍💻용어 정리
 
CNN

 

CNN

• 이미지 뿐 아니라 이러한 구조 자체를 시계열 데이터에 적용했을 때도 굉장히 좋은 효과를 볼 수 있습니다.
• feature를 스스로 학습할 수 있는 능력을 갖춘 심층 신경망 구조입니다.
  • Classification
  • Classification + Localization
  • Object Detection
  • Instance Segmentation
• 위와 같은 수행이 이루어집니다.
• 이미지는 3차원의 tensor로 표현됩니다.
  • 모든 pixel 하나의 입력 노드로 간주하고 서로 다른 가중치로 연결하면 input layer와 first hidden layer 사이 많은 weights가 발생합니다. 학습량이 기하급수적으로 증가하게 됩니다.
  • 그래서 원래 하던 대로 vector data를 표현하던 방식대로 이미지 data를 neural network에는 집어 넣어서 연산을 할 수가 없는 상황입니다.
  • 그래서 Convolution 연산을 사용합니다.
  • image convolution
    • 특정 속성을 탐지하는데 사용하는 matrix
      • edge detection
      • 이미지의 특성을 활용하는 filter
  • CNN은 filter를 data를 통해 스스로 학습 시키는 능력을 가지고 있습니다.
  • end-to-end 학습
  • 인접 pixel 간에는 상당히 높은 상관성을 가집니다.
  • 그러나 이미지가 어디서 나타날지는 모르는 것이  feature invariance입니다. CNN에서 이 특성을 반영합니다.
  • sparse connection은 인접한 영역만을 이용하여 feature를 고려합니다.
  • local하게 correlation이 높은 영역만 보아서 invariant feature를 추출한다. 이를 수행 시 shared weight를 사용합니다.
    • 위치가 달라도 동일한 가중치를 계속해서 적용합니다.

 

CNN 연산

Convolution 연산

• 특정 영역을 추출하기 위한 filter가 필요합니다.
• input에 대해 이 filter를 양,옆 상하좌우 다니면서 연산을 통해 어떤 결과 값을 도출하는 게 바로 Convolution 연산입니다.
• 이미지 data는 3차원의 tensor이기 때문에 filter도 역시 3차원입니다.
• 3 by 3의 filter를 걸었다면, depth가 대상이 되는 객체와 동일한 depth를 가지고 있다고 생각하면 됩니다.
• filter가 몇 개가 필요한지 알 수 없습니다. detection 해야하는 대상이 많기 때문입니다.
• 이 filter의 수를 hyper parameter로서 정해야합니다.
• input의 개수와 D in은 동일하고 filter의 개수는 D out과 동일합니다.
• 그래서 filter의 개수와 동일하게 D out개의 결과물이 나옵니다.
• pixel 하나씩 하기 때문에 여러 칸을 한 번에 옮겨갈 수 있습니다.
  • 이를 stride한다고 합니다.
    • 한 칸씩 움직이면 stride 1, 두 칸씩 움직이면 stride 2입니다.
  • 가운데 있는 것들은 filter의 영향을 가장자리 보다 상대적으로 많이 받습니다.
    • 이를 해결하기 위해 padding을 합니다.
    • 원본 data의 테두리에 pixel을 한 칸씩 둘러서 전부 0의 값을 줍니다.
    • 그래서 나름 filter를 더 여러 번 적용받게 됩니다.
  • stride와 padding을 얼마나 주냐에 따라 Output size가 달라집니다.
• activation 연산
  • 복잡한 선형조합을 비선형 변환을 수행하는 것입니다.
  • ReLU
    • 0보다 큰 값은 자기자신, 0보다 작은 값은 0으로 return합니다.
    • 사람의 귀는 모두 양수로 들어오는 정보를 채택합니다. 음수는 없기 때문에 0으로 변환합니다.
  • Pooling
    • 큰 data가 생성 되기 때문에 고차원의 tensor를 보다 compact하게 축약하는 것입니다.
    • 일정 영역에 대한 정보를 대푯값을 이용해서 가지고 옵니다.
    • max pooling
      • 최댓값을 가져옵니다.
      • 일반적으로 사용합니다.
    • average pooling
      • 전부 평균 내어 가져옵니다.
      • strided convolution의 특수한 경우입니다.
      • 일정 횟수 이상 지나면 tensor 형태로 구성된 data를 일차원으로 펼쳐 flatten하는 과정을 거칩니다.
        • pooling을 해도 구조는 3차원 tensor 형태가 되는데, 이를 1차원의 vector로 변환하는 과정입니다.
        • 판별을 위해서는 vector 형태로 이루어져 있어야 합니다.
• AlexNet
  • 연산량 부족으로 인한 resize 필요.
  • 224 x 224 크기의 이미지 input으로 사용
  • 초기 단계에 큰 필터와 사이즈와 stride 사용
  • 상위 Layer로 갈수록 작은 필터 사이즈와 stride 사용
  • 2개의 fully connected layer 존재
  • 파라미터 총수 : 60 million

 

 

 

• VGGNet
  
  • AlexNet에 비해 단순하지만 깊은 구조
  • 3 by 3 convolution with stride를 기본 연산으로 하며 중간 중간 2 by 2 max pooling 수행
  • 파라미터 총 수 138 million

 

 

Time-Series Data 과정 for CNN

 

• 모든 변수는 동일한 주기로 수집되고 있습니다.
  • Classification
    • 특정 기간 데이터를 입력으로 하고 특정 범주를 출력하는 분류 모델 (제품 가공)
  • Regression
    • 특정 기간 데이터를 입력으로 하고  특정 수치를 출력으로 하는 회귀 모델 (품질 지표)
    • 일부 기간 데이터를 입력으로 하여 이후 기간 데이터를 예측
  • Anomaly Detection
    • 일부 기간 데이터를 입력으로 하여 해당 상황의 정상/비정상 여부를 탐지
• 시계열 데이터는 이미지 테이터와는 달리 변수들 사이의 Spatial Correlation이 존재하지 않습니다.
• 시간축으로 움직이는 Convolution은 의미가 있으나, 변수축으로 움직이는 Convolution은 의미가 없습니다.
• 2-D Convolution은 시간과 변수 두 축을 모두 Convolution 연산을 통해 탐색하는 방식입니다.
  • 1-D Convolution vs. 2-D Convolution

 

 

 

• Dilated Convolution
  • 보다 긴 길이의 시계열 데이터를 효율적으로 처리하는 방법입니다.
    • standard convolution은 항상 인접한 연속된 시점의 데이터에 대한 합성곱 연산을 수행합니다.
  • 합성곱연산을 띄엄띄엄 수행합니다.

 

 

• 합성곱 신경망을 활용한 시계열 회귀
  • 합성곱 연산은 Feature Invariance와 Spatial Correlation을 반영하기 위해 사용되는 연산입니다.
  • 이미지를 처리할 때는 정방형의 필터를 사용하여 가로 ~ 세로 두 방향으로 움직이는 2d 합성곱 연산을 사용합니다.
  • 반면, 시계열 데이터를 처리하는 경우에는 변수축으로 필터가 이동하는 것은 의미가 없으므로 필터의 한 쪽 크기는 변수의 개수와 같게 정의한 뒤 시간 축으로만 움직이는 1d 합성곱 연산을 사용합니다.
  • 합성곱연산은 한 레이어에서만 적용하는 것이 아니라 반복적으로 쌓아올려서 사용할 수 있습니다.
  • 보다 긴 길이의 시계열 데이터를 한번에 처리하기 위해서는 Standard Convolution 보다는 중간 지점을 생략하는 Dilated Convolution을 사용하면 보다 효율적인 정보의 처리가 가능해집니다.