다중군 상황에서의 불변좌표선택과 피셔 판별 하위공간

초록

본 논문은 두 집단에 국한된 기존 연구를 확장하여, 여러 집단이 존재할 때와 다양한 산포 행렬 조합에서 불변좌표선택(ICS)이 피셔 판별 하위공간(FDS)을 얼마나 정확히 복원할 수 있는지를 이론적으로 분석한다. 특히 군 중심 행렬의 랭크가 전체 랭크인지 여부에 따라 결과가 달라짐을 밝히고, 세 집단 사례를 중심으로 전·후 랭크 상황을 모두 검토한다. 수치 실험과 실제 데이터 적용을 통해 제시된 조건 하에서는 ICS가 FDS를 거의 항상 회복한다는 결론을 제시한다.

상세 분석

논문은 먼저 불변좌표선택(ICS)의 기본 원리를 정리하고, 두 개의 산포 행렬 V₁, V₂를 동시에 대각화함으로써 얻어지는 일반화 고유값 ρ₁≥…≥ρ_p가 데이터의 비선형 구조를 드러낸다는 점을 강조한다. 기존 연구(Tyler et al., 2009)는 모델 (1) 형태의 혼합 분포에서 최소 하나의 고유값 ρ가 차원 p−q(여기서 q는 군 중심 행렬 M의 랭크) 이상의 중복도를 가진다고 증명했으며, 이 고유값에 대응하는 고유공간은 FDS의 여공간과 겹친다. 그러나 FDS를 정확히 추정하려면 ρ의 중복도가 정확히 p−q이어야 하고, 나머지 고유값이 FDS를 구성해야 한다는 추가 조건이 필요하다.

이 논문은 이러한 조건을 두 가지 경우로 나누어 상세히 검토한다. 첫 번째는 M이 전체 랭크(q = k−1, 여기서 k는 군 수)인 경우이다. 이때 V₁⁻¹V₂는 블록 대각 형태를 가지며, 하위 블록은 항등행렬 I_{p−q}가 된다. 따라서 고유값 1이 최소 p−q 중복도를 갖고, 나머지 고유값은 M의 열공간, 즉 Γ⁻¹(M−μ_k1ᵀ)와 동일한 방향을 갖는다. 이는 어떤 산포 행렬 조합을 사용하더라도 FDS가 고유벡터 집합에 포함된다는 강력한 일반성을 제공한다.

두 번째는 M의 랭크가 부족한 경우(q < k−1)이다. 여기서는 군 중심이 선형적으로 종속되어 있어 FDS의 차원이 q보다 작아진다. 저자들은 q=1인 세 군 사례를 중심으로, 군 비율이 변할 때 고유값 구조가 어떻게 변하는지를 분석한다. 특히 COV–COV₄(FOBI) 조합을 사용하면 고유값이 1에 수렴하는 임계 비율(예: 1/3 또는 (3−√3)/6)이 존재함을 보이며, 이 임계값을 초과하거나 미만일 때 가장 큰(또는 가장 작은) 고유값이 FDS 방향을 정확히 나타낸다.

수치 실험에서는 다양한 차원(p), 군 수(k), 군 비율 및 공분산 구조를 변형시켜 위 이론을 검증한다. 실험 결과는 전체 랭크 상황에서는 거의 모든 경우에 고유값이 명확히 구분되어 FDS를 복원하지만, 랭크 부족 상황에서는 특정 비율 구간에서 고유값이 동일해지는 현상이 발생한다. 그러나 이러한 실패 경우는 매우 제한적이며, 실제 데이터(예: 이미지 특징 군집)에서도 제안된 조건 하에 ICS가 효과적으로 차원을 축소하고 군 구분을 강화함을 확인한다.

결론적으로, 논문은 기존 두 군 한정 결과를 일반 k 군 및 다양한 산포 행렬 조합으로 확장함으로써, 불변좌표선택이 피셔 판별 하위공간을 복원하는 데 매우 강력하고 일반적인 도구임을 이론적·실험적으로 입증한다.