다중그룹 가우시안 혼합 모델의 이상치 강인 재배정 기법

초록

본 논문은 사전 정의된 그룹 정보를 활용하면서도 관측치를 데이터 기반으로 다른 그룹에 재배정할 수 있는 다중그룹 가우시안 혼합 모델(MG‑GMM)을 제안한다. 셀 단위 이상치를 검출하고 동시에 모델 파라미터를 추정하는 penalized likelihood 방법인 cellMG‑GMM을 도입하고, EM 알고리즘을 기반으로 효율적인 추정 절차를 설계하였다. 시뮬레이션과 의료·와인 데이터 적용을 통해 모델의 강인성 및 그룹 전이 탐지 능력을 입증하였다.

상세 분석

본 연구는 기존의 가우시안 혼합 모델(GMM)이 전제하는 “모든 관측치가 동일한 혼합 분포에서 독립적으로 추출된다”는 가정을 완화한다. 저자는 사전 라벨링된 N개의 그룹을 각각 하나의 주 분포(main distribution)로 간주하고, 각 그룹 내 관측치가 전체 N개의 정규분포(μ_k, Σ_k)들의 혼합으로부터 생성된다고 가정한다. 이때 그룹‑특유 혼합 비율 π_{g,k}는 ∑k π{g,k}=1을 만족하고, 자기 자신에 대한 비율 π_{g,g}는 최소 α(0≤α≤1) 이상으로 제한한다. α=1이면 재배정이 금지되고, α가 작아질수록 관측치가 다른 그룹으로 이동할 여지가 커진다. 이러한 구조는 “그룹 간 전이” 현상을 통계적으로 모델링할 수 있게 하며, 기존의 지도학습(고정 라벨)과 비지도학습(완전 클러스터링) 사이의 중간 형태인 반지도학습(semi‑supervised)으로 해석될 수 있다.

셀 단위 이상치에 대한 강인성을 확보하기 위해 저자는 관측값의 결측/이상치 패턴을 이진 벡터 w_{g,i}로 표현하고, 이상치를 ‘결측치’로 취급하여 likelihood에 포함시키지 않는다. 동시에 “플래그된 셀 수”에 대한 L_0 형태의 패널티 q_{g,ij}를 추가함으로써 과도한 플래깅을 억제한다. q_{g,ij}는 각 셀의 표준화 잔차가 χ²_1의 특정 분위수(예: 0.99)보다 클 경우 크게 설정되어, 실제 이상치가 아닌 경우 플래그 비용이 높아지게 설계되었다.

추정은 두 단계 반복으로 이루어진다. W‑step에서는 현재 파라미터(π, μ, Σ)를 고정하고, 각 셀에 대해 Δ_{g,ij} = -2 log Σ_k π_{g,k} φ(·) 차이를 계산해 플래그 여부를 결정한다. 여기서 h_g = ⌈0.75 n_g⌉ 로 설정해 각 변수별 최소 관측 수를 보장한다. EM‑step에서는 업데이트된 결측 패턴을 이용해 완전 데이터의 기대값을 계산하고, 제약식(π_{g,g}≥α, Σ_reg,k = (1-ρ_k)Σ_k + ρ_k T_k) 을 만족하도록 파라미터를 최대화한다. Σ_reg,k 은 MRCD와 유사하게 대각선 강인 스케일 T_k와 원본 공분산 Σ_k의 가중합으로 정규화되어, 고차원·소표본 상황에서도 수치적 안정성을 제공한다.

이론적으로 저자는 셀 단위 이상치에 대한 유한표본 붕괴점(breakdown point)을 분석한다. 기존 클러스터링 강인성 연구는 행(row) 수준 오염만 다루었으나, 여기서는 셀 수준 오염을 고려해 최대 (1-α)·(1-ρ_k) 정도의 붕괴점을 확보한다는 결과를 제시한다. 실험에서는 10%~30% 수준의 셀 이상치를 삽입해도 평균 파라미터 추정 오차와 군집 재배정 정확도가 크게 악화되지 않음을 보였다.

마지막으로, 의료 데이터(당뇨병 혈당 측정)와 와인 품질 데이터에 적용해, 기존 라벨과 모델 기반 군집 사이의 불일치를 정량화하고, 전이 구간에 위치한 환자·샘플을 식별했다. 특히, 전이 환자는 기존 라벨링에서는 ‘건강’ 혹은 ‘질병’으로 고정되었으나, MG‑GMM은 이들을 중간 혼합 비율을 가진 관측치로 재배정함으로써 질병 진행 단계의 연속성을 시각화했다.

전반적으로 본 논문은 사전 지식과 데이터 기반 재배정을 조화시키는 새로운 혼합 모델 프레임워크를 제시하고, 셀 수준 이상치 검출을 통합한 강인 추정 방법을 구현함으로써, 복합적인 다중그룹 데이터 분석에 실용적인 도구를 제공한다.