고차원 행렬 데이터 위한 비모수 선형 판별 분석

초록

본 논문은 행렬 정규분포를 가정한 두 클래스의 고차원 행렬 데이터를 대상으로, 비모수 경험적 베이즈 프레임워크와 비모수 최대우도 추정(NPMLE)을 결합한 새로운 선형 판별 분석(NPMLDA) 방법을 제안한다. 행렬을 벡터화·스케일링한 뒤 공분산 구조를 추정하고, 스케일된 평균 벡터를 NPMLE로 추정함으로써 기존의 구조적 제약(희소성·저랭크 등)에 의존하지 않으며, 시뮬레이션 및 EEG·MRI 실험에서 기존 방법들을 능가하는 분류 성능을 보인다.

상세 분석

이 연구는 행렬 정규분포 (X|Y=k\sim MN(M_k,U,V)) 를 기반으로, 전통적인 LDA가 요구하는 평균 (M_k)와 공분산 (U,V) 를 직접 추정하기 어려운 문제를 해결한다. 저자들은 먼저 행렬을 벡터화하고 (\Sigma=V\otimes U) 를 이용해 스케일링 행렬 (\Sigma^{-1/2}) 를 추정한다. 여기서 공분산 추정은 GEMINI와 같은 기존 그래프 기반 방법을 활용하거나 사용자가 선택한 다른 추정기를 적용할 수 있다. 스케일링 후 얻은 데이터 (z_i^{(k)}=\Sigma^{-1/2}\operatorname{vec}(X_i^{(k)})) 는 평균 (\Sigma^{-1/2}\operatorname{vec}(M_k)) 와 단위 공분산을 갖는 정규분포를 따른다.

핵심은 스케일된 평균 벡터 (\mu_k=\Sigma^{-1/2}\operatorname{vec}(M_k)) 를 비모수 경험적 베이즈(NPEB) 방식으로 추정하는 것이다. 각 차원 (j) 에 대해 평균 (\bar z^{(k)}_j) 를 관측하고, 베이즈 계층 모델 (\bar z^{(k)}_j\mid \mu^{(k)}_j\sim N(\mu^{(k)}_j,1/n_k)), (\mu^{(k)}j\sim G^{(k)}) 을 설정한다. 여기서 (G^{(k)}) 는 제한 없는 분포 공간 (\mathcal G) 위의 비모수 혼합분포이며, NPMLE를 통해 로그우도 (\sum_j\log\int \phi(\bar z^{(k)}j\mid m,1/n_k),dG^{(k)}(m)) 를 최대화한다. 알고리즘적으로는 Lindsey, Koenker‑Mizera, Dicker‑Zhao 등에서 제안한 유한 혼합 모델 근사법을 사용해 (G^{(k)}) 를 (L) 개의 점 ({\nu\ell}) 와 가중치 ({\omega\ell}) 으로 표현한다. 추정된 (G^{(k)}) 로부터 사후 평균 (\hat\mu^{(k)}j=E{G^{(k)}}