정보기하학 기반 차원 축소 프레임워크

초록

본 논문은 확률밀도함수로 표현되는 고차원 데이터를 통계적 다양체 위에 매핑하고, Fisher 정보 계량을 이용해 유클리드 거리 대신 정보 거리로 차원을 축소하는 새로운 프레임워크를 제안한다. 실험 결과, 기존 PCA·t‑SNE·UMAP 대비 클러스터 구분도와 시각적 일관성이 향상됨을 보인다.

상세 분석

본 논문은 고차원 데이터의 유클리드 표현이 부적절한 경우를 위해, 확률분포 자체를 데이터로 보는 정보기하학적 접근을 제시한다. 저자들은 통계적 다양체를 Fisher 정보 계량을 이용해 리만 다양체로 모델링하고, 이 다양체 위에서 차원 축소를 수행한다. 핵심 아이디어는 원본 데이터의 확률밀도함수(PDF)를 파라미터화하고, 파라미터 공간에 대한 거리 측정으로 Kullback‑Leibler 발산의 2차 근사인 Fisher 거리를 사용한다는 것이다. 이렇게 정의된 거리 행렬을 기반으로 다변량 고유값 분해를 수행하거나, MDS와 같은 비선형 임베딩 기법을 적용해 저차원 좌표를 얻는다. 또한 논문은 다양체 재구성을 위해 샘플링된 PDF들의 국소적 접선 공간을 추정하고, 전체 다양체를 연결하는 그래프를 구성한다. 이 그래프는 최단 경로 알고리즘을 통해 근사 지오데식 거리를 제공하며, 이는 전통적인 유클리드 거리보다 데이터 구조를 더 정확히 반영한다. 최적화 단계에서는 KL 발산을 직접 최소화하는 목적함수를 정의하고, 스텝‑와이즈 그라디언트 하강법을 적용해 저차원 임베딩을 미세 조정한다. 실험에서는 이미지, 텍스트, 생물학적 신호 등 다양한 도메인에서 기존 PCA, t‑SNE, UMAP과 비교했을 때 클러스터 구분도와 시각적 일관성이 향상됨을 보인다. 특히 확률적 특성을 갖는 신호(예: 스펙트럼, 포아송 카운트)에서는 유클리드 기반 방법이 실패하는 반면, 제안된 프레임워크는 의미 있는 저차원 표현을 성공적으로 생성한다. 마지막으로 저자는 현재 구현이 계산량이 크다는 한계와, 고차원 파라미터 공간에서의 스케일링 문제를 언급하며, 근사 커널 방법이나 딥러닝 기반 인코더와의 결합을 향후 연구 방향으로 제시한다.