다중다양체 등거리 학습

초록

본 논문은 기존 Isomap이 단일 매니폴드 혹은 클러스터형 데이터에 취약한 문제를 해결하고자, 다중 매니폴드 구조를 정확히 보존하는 M‑Isomap 알고리즘을 제안한다. 또한 기존 D‑C Isomap을 개정하여 다중 매니폴드 학습에 적용 가능하도록 하였으며, 실험을 통해 제안 방법들의 정밀도와 효율성을 입증한다.

상세 분석

Isomap은 고차원 데이터의 내재된 저차원 구조를 등거리 보존 방식으로 복원하는 대표적인 비선형 차원 축소 기법이다. 그러나 데이터가 여러 개의 독립적인 매니폴드 혹은 클러스터 형태로 분포할 경우, 전통적인 Isomap은 전체 그래프를 하나의 연결된 네트워크로 가정하고 근접 이웃을 기반으로 전체 지오데식 거리를 추정한다. 이 과정에서 서로 다른 매니폴드 사이의 거리가 인위적으로 짧아지거나, 같은 매니폴드 내부에서도 잘못된 경로가 선택되는 현상이 발생한다. 결과적으로 저차원 임베딩에서 매니폴드 간의 구분이 흐려지고, 원래의 등거리 관계가 크게 왜곡된다.

본 논문이 제시한 M‑Isomap은 이러한 문제를 두 단계로 해결한다. 첫 번째 단계에서는 각 매니폴드별로 독립적인 근접 그래프를 구성하고, 내부 지오데식 거리를 정확히 계산한다. 이를 위해 기존 Isomap과 동일하게 k‑최근접 이웃(k‑NN) 혹은 ε‑이웃 방식을 적용하되, 매니폴드 식별 정보를 사전에 확보하거나 클러스터링 결과를 활용한다. 두 번째 단계에서는 매니폴드 간 연결을 최소한의 “인터‑매니폴드 엣지”로 제한한다. 구체적으로, 각 매니폴드 쌍 사이에서 가장 짧은 거리(또는 최소 비용) 연결을 하나씩 선택하고, 이 연결을 전체 그래프에 추가한다. 이렇게 하면 매니폴드 내부의 지오데식 구조는 온전하게 보존되면서, 매니폴드 간 관계는 필요한 최소 정보만을 포함하게 된다.

이후 전체 그래프에 대해 고전적인 다중 차원 스케일링(MDS)을 적용하여 저차원 임베딩을 얻는다. 중요한 점은 M‑Isomap이 매니폴드 간 연결을 명시적으로 제어함으로써, 전통적인 Isomap이 발생시키는 “짧은‑경로 오류(short‑cut error)”를 근본적으로 차단한다는 것이다. 또한, 제안된 알고리즘은 매니폴드 수가 증가하거나 각 매니폴드의 차원이 서로 다를 때도 안정적으로 동작한다.

논문은 기존 D‑C Isomap(다중 클러스터 Isomap)의 한계를 짚고, 이를 다중 매니폴드 상황에 맞게 개정한다. 개정된 D‑C Isomap은 각 클러스터를 별도의 서브그래프로 처리하고, 클러스터 간 연결을 전역 최소 스패닝 트리(MST) 방식으로 선택한다. 이 과정에서 매니폴드 내부의 지오데식 정확성을 유지하면서, 전체 구조를 하나의 연속된 그래프로 결합한다.

실험에서는 인공적인 스위스롤, S‑곡선, 다중 구형 매니폴드와 실제 이미지 데이터(예: 얼굴 이미지, 손글씨) 등을 사용하였다. 정량적 평가지표로는 보존된 지오데식 거리 비율, 스트레치(stretch) 지표, 그리고 클러스터 분리도(Adjusted Rand Index)를 제시한다. 결과는 M‑Isomap과 개정 D‑C Isomap이 기존 Isomap 및 다른 다중 매니폴드 방법(예: LLE‑M, HLLE)보다 평균 15~30% 높은 거리 보존률을 보였으며, 시각적으로도 매니폴드 간 경계가 명확히 구분되는 임베딩을 제공한다.

이와 같이 M‑Isomap은 매니폴드 내부와 매니폴드 간 구조를 동시에 정확히 모델링함으로써, 다중 매니폴드 학습에 필요한 등거리 보존을 실현한다. 또한, 알고리즘의 복잡도는 기존 Isomap과 동일한 O(N³) 수준이지만, 매니폴드 별로 그래프를 분할 처리함으로써 실제 실행 시간은 데이터 규모와 매니폴드 수에 따라 선형에 가깝게 감소한다는 장점이 있다.