노멀라이징 플로는 VAE와 같이 가우스 분포와 같이 간단한 분포에 매핑을 하며, 자기회귀 모델처럼 다루기 쉽고 명시적인 데이터 분포를 모델링할 수 있다. 여기서 매핑함수의 형태에 제약을 둔다는 특징을 지니고 있다.

다시 말해, VAE는 서로 다른 두 신경망 인코더와 디코더를 이용하여 확률분포를 근사하여 모델링하지만, 노멀라이징 플로 모델은 디코딩함수는 곧 인코딩 함수의 역함수이며, 빠르게 계산할 수 있으며 다루기가 쉽다는 이점을 지니고 있다. 하지만, 복잡한 신경망은 쉽게 반전 가능하지 않은데, 이를 이해하기 위해 먼저 변수 변환(change of variables)을 이해해야 한다.

• 변수 변환 설명

정리하자면, jacobian 행렬로 도메인을 맵핑하는 것이 키포인트다.

하지만, 두가지 문제가 존재하는데,

• 고차원 행렬식 계산 시간 비용 ➡️ 행렬식을 쉽게 계산
• 역함수 계산 방법 ➡️ 변환 함수가 반전 가능하게

RealNVP

• RealNVP 설명

키포인트는 coupling층을 통해 scale, translate factor 둘을 이용하여 jacobian 행렬 계산에 이용이 되어 가역성 속성을 유지하는 것이 RealNVP의 특징이다. 이 외 노멀라이징 플로 모델로는 GLOW, FFJORD가 존재한다.

해당 코드와 torch migration은 아래 repository에 첨부하였다.

• 06-normalizing-flow