[Deep Learning] Deep Generative Models(1) - VAE

🧑🏻‍💻용어 정리
Deep Generative Models
Generative Model
Discriminative Model
pre-training
fine-tunning
DBN
VAE
encoder
autoencoder
reparametrization trick

 

 

이번에는 Deep Generative Models이라 불리는 생성 모델에 대해 보겠습니다.

 

Deep Generative Models

이 Generative Model은 생성 모델, '생성하는 모델'입니다.

 

즉, data를 생성할 수 있는 모델을 의미합니다.

 

우리는 평균과 분산을 가지는 확률 분포에 의해 data를 무한히 생성해낼 수 있습니다.

 

이것으로부터 sampling, generation 등으로 부릅니다.

 

 

만약 우리가 N(0, 1)과 같은 표준 정규 분포를 가지고 있다면, 이것으로부터 확률적으로 data를 생성해낼 수 있습니다.

 

이러한 model을 generative model이라고 합니다.

 

과거에는, 일반적으로 이 generative model의 output 자체가 probability distribution 으로 나오는 것으로 많이 이야기 했습니다.

 

모델의 output 자체가 확률 분포였기 때문에 데이터를 생성해낼 수 있는 것이죠.

 

 

그래서 true- data-generating distribution을 학습합니다.

 

데이터가 어디로부터 왔는지,

 

데이터의 underlying func.을 잘 학습합니다.

 

학습이 잘 되어, 이 데이터가 어떤 특정 분포를 잘 따른다고 했을 때,

 

결국, true data-generating distribution을 안다는 것은 데이터의 모든 것을 우리가 잘 이해했다는 것이 됩니다.

 

그리고 새로운 데이터 포인트들을 계속해서 생성해낼 수도 있습니다.

 

 

이것에 반대되는 것이 Discriminative Model입니다.

 

지금까지 우리가 배워온 대부분의 것들이죠.

 

discriminant func.을 만들어내는 model로, 이것은 판별 모델이라고도 합니다.

 

즉, 판별식을 만들어내는 모델로, 머신러닝에서 decision hyperplane 등이 있습니다.

 

 

결국 generative model은

 

어떤 데이터를 생성해낼 수 있는 대부분의 확률 분포의 모양인 그러한 output이 나와주어야 하는 model로 특별하지만 굉장히 어렵습니다.

 

그런데 여기서 모델의 output이 확률 분포 형태를 띄어야 한다는 것이 GAN model을 통해서 가정이 무너지게 됩니다. 이것은 나중에 말씀드리겠습니다.

 

 

 

 

Deep Belief Networks (DBN)

NN으로부터 depth를 확장 시키는 트렌드가 생겨났을 때,

 

vanishing gradient를 해결하기 위해 pre-trained 방법을 통해 사전에 모델을 좀 학습시켜 놓은 뒤,

 

우리의 데이터로부터 fine-tunning을 함으로써 vanishing gradient를 없애보자는 아이디어가 있었습니다.

 

그것이 이 DBN이 됩니다.

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

이것은 그림의 우측 상단에 나와있는 Restricted Bolzmann Machine (RBM)이라는 것을 통해 pre-training을 합니다.

 

이것은 perceptron이랑 크게 달라보이진 않습니다.

 

먼저, visible하다고 하여 input을 v로 표현하였고, 위는 hidden이 됩니다.

 

그래서 이것은 바로 및 하단의 확률 분포를 fitting 시키는 학습을 합니다.

 

이 확률 분포는 energy func.를 포함하는데, 그 수식은 수식 아래와 같습니다.

 

이 energy func.이 낮으면 낮을 수록 좋습니다. 낮으면 낮을 수록 수식에 낮게 들어가 exp. 값이 커지죠.

 

그래서 probability가 높게 되어 안정적인 상태라고 fitting을 하는 구조입니다.

 

 

결국 위 energy func.의 수식에서, visible과 hidden의 유사도가 높으면 높을수록 energy func.이 마이너스로 낮은 값을 가지고,

 

위 확률값이 결과적으로 커지며, 즉, visible layer의 행동 형태와 hidden layer의 행동 형태가 유사하면 유사할수록 이 model이 성공적으로 학습이 되었다고 볼 수 있습니다.

 

 

그래서 우측 맨 밑 그림처럼,

 

이 Restricted Bolzmann machine으로 layer 에서 pre-training을 먼저하고,

 

마지막에 데이터가 들어오면, 쭉 fine-tunning만 하고 가자는 것입니다.

 

그래서 위 깊은 layer에서 vanishing gradient로 인해 학습이 잘 안 되던 것이,

 

사전에 미리 맞춰 두어, 그렇게 학습이 잘 되어있진 않더라도 어느 정도는 괜찮아진다는 것입니다.

 

그리고 이 pre-training을 하는 방법은 각 layer 끼리 행동의 유사도를 최대화 하고 싶어하는,

 

Restricted Bolzmann machines을 사용했다고 보시면 되겠습니다.

 

 

NN이 역사적으로 몇 번 씩 죽어있다가,

 

2006년에 이 DBN으로 SVM을 한 번 이기고,

 

2011년에 ReLU가 나오며 Vanishing gradient가 많이 해결되어 쭉 이기고 있는 상황입니다.

 

이 DBN은 deep learning 역사상 큰 의미를 가집니다.

 

 

그런데 이 DBN을 사용하는 데 있어, RBM을 사용해야하는 게 너무나도 크기 때문에 최근에는 사용하지 않습니다.

 

이것을 다 확률로 fitting을 해야하기 때문에 시간이 매우 오래걸립니다.

 

 

역사적인 관점에서, 여기서 vanishing gradient를 조금 해결하면 이 depth를 크게 가져간 NN이 SVM도 이긴다는 가능성을 본 것입니다.

 

이러한 insight를 주었기 때문에 지금의 딥러닝이 있는 것입니다.

 

어째튼 결국 이 DBN은 unsupervised pre-training을 했습니다.

 

y 값 없이 유사도를 가지고 unsupervised pre-training을 합니다.

 

 

Variational Auto-Encoder

그 다음 말씀 드릴 모델은 VAE입니다.

 

 

 

이 모델은 auto encoder의 구조를 하고 있습니다.

 

그런데, auto encoder에는 latent vector가 나오죠.

 

latent vector는 code라고도 부르는 숨겨진, 함의의 vector이며 핵심을 설명하는 것입니다.

 

 

그런데 일반적인 auto encoder 구조와 달리 latent vector로부터 representation을 뽑아내는 것이 아닌,

 

확률 분포를 가정하고, 확률 분포의 parameter 값을 찾아냅니다.

 

위 그림으로 봤을 때, mean variance가 2세트가 존재합니다.

 

이것은 latent vector의 latent dimension이 2라는 것을 의미합니다.

이것은 곧,

 

- Z1 ~ N (µ_1, ∂^2_1)

- Z2 ~ N (µ_2, ∂^2_2) 를 의미합니다.

 

auto encoder의 경우, 우리가 축약하고 싶은 정보의 형태는 정말 정보 그 자체입니다.

 

그런데, VAE는 정보를 축약해서 code에 모으고 싶은것이 latent의 distribution입니다.

 

그래서 모델이 잘 학습되어 mean, variance vector가 잘 추정이 되었다면,

 

decoder부분에서는 z1, z2 라는 두 개의 latent vector를 무한히 많이 생성해낼 수 있습니다.

 

그래서 학습이 잘 되어 있다면, 학습 데이터가 다소 부족하더라도 잘 생성할 수 있다는 것입니다.

 

그리고 latent에 대한 이해를 할 수 있습니다.

 

결국 우리는 latent representation을 찾는 것이죠.

 

autoencoder는 함축된 정보 값만 알 수 있다고 하면, VAE는 latent space 자체를 이해할 수 있습니다.

 

즉, 어떻게 생겼는지 알 수 있습니다.

 

 

사실 학습이 잘 된다면,

 

encoder 부분을 버리고 decoder 부분으로부터 sample을 무한히 만들어내어,

 

latent vector 자체가 학습 데이터에 대한 정보를 함축하고 있으니,

 

그 확률 분포를 알고 있다면 데이터를 무한히 생성해낼 수 있다는 것입니다.

 

이 2014년에 나온 VAE는 잘만 된다면 굉장히 파워풀합니다.

 

 

이것이 autoencoder의 기본적인 형태라면 28 x 28에 대해 700몇 개를 10개로 줄이고 다시 representation을 추출하는 것입니다.

 

 

그런데, VAE라면,

위와 같이 mean과 sigma를 µ_1, ∂^2_1 ~ µ_10, ∂^2_10을 만듭니다.

 

그리고, autoencoder의 전체 모델을 가지고 추정이 잘 된다면,

 

이 sampled latent vector는 무한히 많이 뽑아낼 수 있습니다.

 

그래서 encoder를 버리고 그 뒤에 우리의 original data를 굉장히 잘 설명하고 있는 latent vector로 MLP, CNN, SVM 등의 task들이 가능해집니다.

 

 

이 VAE는 확률 분포 추정이 필요합니다. 이것이 VAE의 단점이죠.

 

MCMC, Gibbs Sampling, MLE, .... 등 엄청난 heavy한 모델입니다.

 

모든 모델이 확률 분포 추정이 들어가면 굉장히 heavy해진다고 보면 됩니다.

 

이것에 비하면 Backpropagation은 굉장히 간단한 것이죠.

 

그런데 확률 분포 추정을 위해서는 sampling을 어떻게 해야하는가부터 들어가는 것이죠.

 

출처 : https://theclevermachine.wordpress.com/2012/11/05/mcmc-the-gibbs-sampler/

수많은 차원의 multi-variable을 모든 space를 커버하도록 sampling해내는 것은 굉장히 어려운 일이죠.

 

그래서 이러한 구조에서는 random sample 하나 뽑아내기도 어려워집니다.

 

random samples들을 뽑아서 전체 space를 다 설명해내야 하는 것이 매우 어려운 일입니다.

 

 

Reparameterization Trick

 

 

 

여기서 보면 왼쪽에 있는 것이 VAE에 대한 일반적인 구조입니다.

 

VAE input이 들어가고, Encoder 구조에서 mean, variance를 뽑아내고, 그것을 통해 다시 sampling, 그리고 decoder 구조에서 reconstruction을 뽑아내고 Reconstruction error까지 뽑아냅니다.

 

이것을 계산해야 backpropagation이 돌고 돌게 됩니다.

 

그런데, mean과 variance 가지고 위 그림의 화살표를 통해 sampling한 것에 대해 어떻게 backpropagation할 것인가에 대한 고민이 생깁니다.

 

매우 난해합니다.

 

 

그래서 오른쪽이 practical VAE, 즉, 실제로 사용하는 VAE입니다.

 

이것은 mean, variance를 그냥 정적인 값을 가지고 가서 그대로 사용합니다.

 

그리고 sample은 noise를 하여서 그냥 더해주어서 backpropagation이 흐르도록 만들어주는 것이라고 보면 되겠습니다.

 

만일, N(0, 1) -> 0.1으로 sampling했다면, 이 sampling이라는 precess 때문에 Backpropagation에 제약이 생깁니다.

 

그리하여, 



mean, variance 0, 1에 대해서, 0 + 1 * (Noise)의 형태로 하는 것입니다.

 

이 noise가 sampling이죠.

 

그래서 gradient chain 내에서 sampling 과정을 빼버렸다고 보시면 되겠습니다.

 

그래서 실제로 VAE를 구현하기 위해서는 이 Reparameterization Trick을 통해 Backpropagation이 구현된다고 보시면 되겠습니다.