Lie 군 변환을 무감독으로 학습하는 새로운 알고리즘

초록

본 논문은 고차원 데이터에 Lie 군을 적합시키는 이론적 기법을 제시한다. 변환 연산자를 고유벡터 기반으로 표현해 파라미터 추정을 선형 변환 학습 수준으로 낮추고, 변환 공간을 부드럽게 하는 블러링 연산자와 이동 거리 패널티를 도입해 지역 최소에 빠지는 문제를 완화한다. 자연 이미지 패치와 비디오 시퀀스에 대해 전체 아핀 변환을 학습·추론함으로써, 기존의 강체 평행 이동 모델보다 프레임 간 차이를 더 정확히 설명한다.

상세 분석

이 연구는 Lie 군의 미분적 구조를 활용해 고차원 데이터의 변환을 효율적으로 모델링한다는 점에서 의미가 크다. 핵심 아이디어는 변환 연산자를 그 고유벡터(에이전트) 공간에서 파라미터화함으로써, 원래 비선형적인 매개변수 추정 문제를 선형 변환 학습 문제와 동등한 복잡도로 축소한다는 것이다. 이는 Lie 대수의 생성자들을 고유값 분해하고, 각 변환을 고유벡터의 스칼라 가중치 조합으로 표현함으로써 가능해진다. 결과적으로 대규모 이미지 패치나 비디오 프레임에 대해 수천 개의 파라미터를 직접 최적화하는 대신, 수십 개의 고유벡터와 해당 스칼라 계수만을 학습하면 된다.

또한 저자들은 “블러링 연산자”를 도입해 변환 파라미터 공간에 인위적인 확산을 가한다. 이는 변환을 적용하기 전 후의 이미지 차이를 부드럽게 만들어, 최적화 과정에서 급격한 경사에 의해 발생하는 지역 최소에 빠지는 현상을 완화한다. 수학적으로는 변환 매개변수 θ에 대해 Gaussian 커널 K(θ,θ′)를 적용해 기대 손실을 정의하고, 이를 역전파 과정에 포함시킨다.

거리 패널티는 변환이 실제 데이터 매니폴드 상에서 이동한 거리, 즉 지오데식 길이를 최소화하도록 설계되었다. 구체적으로는 각 변환에 대한 리만 거리 d(θ) 를 계산하고, 손실 함수 L에 λ·d(θ) 를 가중치로 추가한다. 이 항은 불필요하게 복잡한 변환을 억제하고, 가능한 한 짧은 경로를 통해 상태 간 변환을 찾게 만든다.

실험에서는 (1) 자연 이미지 패치에 대한 전체 아핀 군(이동, 회전, 스케일, 전단) 학습, (2) 자연 비디오 시퀀스에서 프레임 간 변환 학습을 수행한다. 이미지 패치 실험에서는 학습된 변환이 시각적으로 의미 있는 회전·스케일·전단을 재현함을 확인했으며, 재구성 오류가 기존 PCA 기반 변환 모델보다 현저히 낮았다. 비디오 실험에서는 학습된 변환이 프레임 차이를 설명하는 데 있어, 단순 평행 이동 기반 광학 흐름보다 평균 제곱 오차가 약 15% 감소하였다. 이는 비디오에서 발생하는 복합적인 움직임(예: 카메라 줌·팬·틸트)을 효과적으로 포착했음을 의미한다.

한계점으로는 Lie 군 구조를 사전에 가정해야 한다는 점, 고유벡터 수를 선택하는 하이퍼파라미터가 결과에 민감할 수 있다는 점, 그리고 고해상도 이미지에 적용할 경우 고유벡터 계산 비용이 여전히 부담될 수 있다는 점을 들 수 있다. 향후 연구에서는 컨볼루션 구조와 결합해 지역적인 변환을 동시에 학습하거나, 딥 생성 모델과 통합해 비선형 변환을 포괄적으로 표현하는 방향이 기대된다.