Autoencoder

• encoding: 고차원에서 저차원 임베딩 벡터로 맵핑
• decoding: 저차원에서 고차원으로 압축 해제
• embedding: 인코더는 디코더의 복원을 위해 많은 정보를 내포 시킨다. 이 때 벡터를 임베딩이라고 지칭.(embedded space = latent space)

embedded space	reconstructed result

Variational Autoencoder

인코딩 된 부분들이 공백이 있는데, 이는 제대로 된 형태의 이미지로 디코딩으로 이어지지 않는다. VAE는 잠재공간의 한 공간으로 직접 매핑되는 AE와 달리 포인트 주변 multivariate nomral distribution에 맵핑된다.

아래에서 확인할 수 있듯 잠재 변수 전에 정규화 과정을 거친다.

Autoencoder에서 표현되는 latent space가 보다 고른 것을 확인할 수 있다.

embedded space	reconstructed result

해당 코드와 torch migration은 아래 repository에 첨부하였다.

• 03-variational-autoencoder

Reference

• Autoencoder vs Variational Autoencoder