무한 차원 변환을 위한 미분동형 사상 등가 신경망

초록

본 논문은 사전 학습된 이미지 분할·분류 모델에 대해, 무한 차원의 변환군인 미분동형 사상(diffeomorphism) 에 대한 등가성을 에너지 기반 정규화(canonicalisation) 기법으로 부여하는 프레임워크인 DiffeoNN을 제안한다. 정규화 단계에서 정지 속도장(SVF)으로 파라미터화된 변환을 최적화하고, 이를 통해 입력을 학습 데이터와 유사한 “표준형”으로 변환한 뒤 기존 모델을 적용하고, 최종적으로 역변환을 수행한다. 실험 결과는 기존 데이터 증강 및 그룹 컨볼루션 대비 높은 정확도와 적은 오류율을 보이며, 무한 차원 변환에 대한 근사 등가성을 성공적으로 달성함을 입증한다.

상세 분석

이 연구는 기존의 그룹-컨볼루션이나 평균화 기반 방법이 제한적인 유한·컴팩트 군에만 적용 가능한 점을 지적하고, 의료 영상 등에서 흔히 나타나는 비선형·연속적인 변형을 모델링하는 무한 차원 군인 미분동형 사상에 대한 등가성을 구현하고자 한다. 핵심 아이디어는 “에너지 기반 정규화”를 이용해 입력을 그 궤도(orbit) 내의 대표적인 형태로 매핑하는 것이다. 구체적으로, 입력 이미지 (x)에 대해 정지 속도장(SVF) (\phi) 로 정의된 변환 (g_{\phi}) 를 찾고, 에너지 함수 (E_{\text{can}}(x,g_{\phi})) 를 최소화한다. 여기서 (E_{\text{can}}) 은 (i) 변환된 이미지가 사전 학습된 데이터셋 (X_E) 와의 거리(예: 재구성 손실) 를 최소화하고, (ii) 변환 자체가 물리적으로 타당하도록 정규화(예: 스무딩, 디터미넌트 양성) 하는 두 항을 포함한다. 최적화는 전통적인 미분가능 이미지 레지스트레이션 기법—예를 들어 L‑BFGS 혹은 Adam 기반의 그래디언트 하강—을 활용한다.

정규화된 입력 (x_c = g_x \cdot x) 는 기존에 학습된 모델 (f_{\theta}) 에 바로 투입될 수 있다. 모델은 사전 학습 단계에서 제한된 라벨 데이터만을 사용했음에도, 정규화 과정 덕분에 입력이 학습 데이터와 동일한 분포에 놓이게 되므로 일반화 성능이 크게 향상된다. 출력은 (y_c = f_{\theta}(x_c)) 로 얻은 뒤, 역변환 (g_x^{-1}) 를 적용해 최종 결과 (y = g_x^{-1} \cdot y_c) 를 만든다. 이 구조는 분할 작업에서는 등가성(equivariant), 분류 작업에서는 불변성(invariant)을 동시에 만족한다는 점에서 특히 흥미롭다.

기술적 기여는 크게 두 가지이다. 첫째, 무한 차원 군을 정지 속도장이라는 실용적인 파라미터 공간으로 근사함으로써, 기존 Lie‑algebra 기반 최적화가 불가능했던 경우에도 효율적인 그래디언트 기반 탐색이 가능하도록 했다. 둘째, VAE 손실과 적대적 디스크리미네이터를 결합한 복합 에너지 함수를 설계해, 정규화된 이미지가 원본 데이터의 구조적 특성을 유지하도록 강제했다. 이는 단순히 픽셀‑레벨 차이를 최소화하는 것이 아니라, 의미론적·해부학적 일관성을 보존한다는 점에서 기존 레지스트레이션 손실보다 강력하다.

실험에서는 (a) 중첩 사각형으로 구성된 합성 데이터와 실제 흉부 X‑ray 데이터에 대한 세그멘테이션, (b) MNIST에 대한 위상 불변 분류 두 가지 태스크를 수행했다. DiffeoNN은 “naïve” 베이스라인(정규화 없이 직접 적용) 대비 IoU가 0.8769 → 0.9560, 정확도가 92% → 97% 수준으로 크게 개선되었으며, 데이터 증강 기반 방법과 비교했을 때도 유사하거나 더 나은 성능을 보이면서 오류(아웃라이어) 비율이 현저히 낮았다. 또한, 변환 전후의 에너지 값이 거의 동일함을 통해 정규화 단계가 실제로 변환 불변성을 만족함을 정량적으로 확인했다.

이와 같이 DiffeoNN은 사전 학습된 모델을 재학습 없이 무한 차원 변환군에 대해 등가·불변하게 만들 수 있는 실용적인 파이프라인을 제공한다. 향후 연구에서는 SVF 외에 더 일반적인 변환 파라미터화(예: 시간‑의존성 속도장)와, 3‑D 의료 영상·비디오 등 고차원 데이터에 대한 확장 가능성을 탐색할 여지가 있다.