Fisher 판별 하위공간을 이용한 동시 모델 기반 군집화와 시각화

본 논문은 고차원 데이터 군집화의 두 가지 핵심 난제, 즉 차원의 저주와 결과 해석의 어려움을 동시에 해결하고자 한다. 기존의 모델 기반 군집화는 고차원에서 파라미터 수가 p²에 비례해 급증함으로써 샘플이 부족할 경우 추정이 불안정해지는 문제가 있다. 반면 차원 축소 기법(PCA, 변수 선택 등)은 데이터 구조를 단순화하지만, 군집화를 위한 판별 정보를 손실하는 경향이 있다. 이러한 배경에서 저자들은 Fisher 판별 기준을 통합한 잠재 혼합 모델(DLM)을 제안한다. DLM은 관측 벡터 Y∈ℝ^p 를 잠재 벡터 X∈ℝ^d( d≤K‑1 )와 잡음 ε 로 표현한다(Y=U X+ε). 여기서 U는 p×d 정규 직교 행렬이며, ε는 군집별 공분산 Ψ_k 를 갖는 가우시안 잡음이다. 잠재 공간 내에서 각 군집 k는 평균 μ_k와 공분산 Σ_k 로 가우시안 분포를 따른다. 이때 전체 공분산은 S_k=U Σ_k Uᵀ+Ψ_k 로 표현되며, Ψ_k 를 U와 직교 보완 행렬 V에 대해 V Ψ_k Vᵀ=β_k I_{p‑d}, U Ψ_k Uᵀ=0_d 로 제약함으로써 공분산 구조를 블록 대각 형태(Σ_k, β_k I) 로 단순화한다. 이러한 제약은 파라미터 수를 크게 줄여 고차원에서도 안정적인 추정을 가능하게 한다. 논문은 기본 모델 DLM