핵심에서 세부까지 엔트로피 순서 흐름을 이용한 비지도 분리 학습

초록

본 논문은 정규화 흐름(Normalizing Flow) 기반의 비지도 표현 학습 방법인 엔트로피‑순서 흐름(EOFlows)을 제안한다. 잠재 공간의 차원을 설명 엔트로피 기준으로 정렬함으로써, 학습 후에 상위 C 개의 차원만 선택해 핵심 표현을 얻고 나머지는 세부·노이즈 정보를 담는 상세 표현으로 활용한다. IMA(Independent Mechanism Analysis)와 노이즈 인플레이션‑디플레이션 기법을 결합한 손실 함수(MML)를 도입해 고차원 이미지 데이터에서도 안정적인 분리와 압축, 디노이징 성능을 보인다.

상세 분석

EOFlows는 기존 정규화 흐름이 갖는 전역적인 밀도 추정 능력에, 잠재 차원의 중요도를 정량화하는 “설명 엔트로피” 개념을 도입함으로써 새로운 차원의 해석을 가능하게 한다. 설명 엔트로피는 각 잠재 차원이 데이터 매니폴드에 기여하는 정보량을 측정하며, 이는 PCA의 설명 분산과 직접적인 유사성을 가진다. 논문은 IMA 원리를 활용해 디코더의 야코비안 열이 전역적으로 직교하도록 정규화함으로써, 잠재 차원 간 통계적 독립성을 강제한다. 이는 기존 β‑VAE가 암묵적으로 달성하는 목표와 동일하지만, EOFlows는 전역적인 정규화 흐름 구조를 유지하면서도 차원 선택을 사후에 자유롭게 할 수 있다는 점에서 차별화된다.

핵심 기여는 세 가지 정규화 항을 포함한 Maximum Manifold Likelihood(MML) 손실이다. 첫 번째 항은 전통적인 로그우도 손실이며, 두 번째와 세 번째 항은 각각 핵심(C)와 상세(D) 잠재 서브스페이스에 대한 엔트로피 손실을 가중한다. 마지막으로, C와 D 사이의 상호 엔트로피(또는 매니폴드 상호 정보) 항을 통해 차원 간 얽힘을 최소화한다. 이때 λ 파라미터를 통해 각 항의 강도를 조절할 수 있어, 압축률(코어 차원 수)과 재구성 품질 사이의 트레이드오프를 명시적으로 제어한다.

노이즈 인플레이션‑디플레이션 기법은 데이터가 저차원 매니폴드에 존재한다는 가정 하에, 잠재 공간에 인위적인 가우시안 노이즈를 주입하고 이를 학습 과정에서 복원하도록 강제한다. 이는 매니폴드 위에서 흐름이 과적합되는 것을 방지하고, 특히 이미지와 같이 고차원 데이터에서 안정적인 분리와 압축을 가능하게 한다. 실험에서는 CelebA 이미지에 대해 C ≈ 30~50 정도의 차원만 사용해도 시각적으로 의미 있는 얼굴 속성(예: 머리색, 안경, 표정 등)을 잘 복원했으며, 나머지 차원을 0으로 고정하거나 표준 정규분포에서 샘플링함으로써 압축(저비트 레이트)과 인식 품질(퍼셉션) 사이의 이론적 경계(Blau‑Michaeli)와 일치하는 결과를 얻었다.

또한, EOFlows는 매니폴드 엔트로피 스펙트럼이 자연 노이즈 엔트로피에 도달하는 지점을 통해 데이터의 내재 차원을 추정한다. 이는 전통적인 차원 추정 방법이 측정 노이즈에 민감한 점을 보완하며, “핵심‑세부” 구분을 데이터 자체가 제공하도록 만든다. 마지막으로, Jacobian‑vector product를 이용한 효율적인 스토캐스틱 추정법을 제시해, 수천 차원의 이미지에서도 메모리와 연산 비용을 크게 늘리지 않고 손실을 계산한다.

전반적으로 EOFlows는 (1) 정규화 흐름의 정확한 로그우도 기반 학습, (2) IMA 기반의 독립성 정규화, (3) 노이즈 인플레이션‑디플레이션을 통한 매니폴드 적합, (4) 설명 엔트로피에 기반한 차원 순위화라는 네 가지 핵심 요소를 결합해, 비지도 상황에서도 의미 있는, 재현 가능하고 압축 가능한 표현을 자동으로 학습한다는 점에서 의미가 크다.