이중 결측 데이터 최대우도 추정의 대수적 복잡성

초록

본 논문은 정규 및 다항 분포를 따르는 이변량 데이터에서 결측이 무작위(MAR)라고 가정했을 때, 최대우도 추정(MLE)의 점수 방정식이 갖는 대수적 구조를 분석한다. 정규 경우 점수 방정식은 9개의 복소수 해를 가지며 최소 하나는 실수이면서 통계적으로 의미 있다. 다항 경우 모든 해가 실수이며, 해의 개수는 변수의 상태 수에 대해 지수적으로 증가하지만 유의미한 국소 최대값은 언제나 하나뿐이다. 실험 결과는 MAR 가정의 충족 여부가 실해의 개수와 연관될 수 있음을 시사한다.

상세 분석

이 논문은 이변량 결측 데이터에 대한 최대우도 추정(MLE)의 대수적 복잡성을 정규분포와 다항분포 두 경우에 대해 체계적으로 탐구한다. 먼저, 데이터가 결측이 무작위(MAR)라는 가정 하에, 관측된 부분표본을 이용해 로그우도 함수를 구성하고, 그에 대한 편미분(점수) 방정식을 도출한다. 정규분포 경우, 평균과 공분산을 추정하는 5개의 파라미터에 대해 9차 다항식 형태의 점수 방정식이 얻어지며, 이는 복소수 해가 정확히 9개 존재함을 의미한다. 이 중 최소 하나는 실수이며, 통계적으로 유의미한 해(즉, 로그우도 함수의 국소 최대점)로 확인된다. 흥미롭게도, 실해의 개수는 MAR 가정이 실제 데이터에 얼마나 부합하는가에 따라 변동하는 경향을 보인다. 즉, MAR 가정이 위배될 경우 실해가 다수 발생하거나, 반대로 가정이 충족될 경우 실해가 하나만 존재하는 현상이 관찰된다. 이는 점수 방정식의 구조가 결측 메커니즘에 민감하게 반응한다는 중요한 통찰을 제공한다.

다항분포 경우에는 각 변수의 상태 수를 k라 할 때, 파라미터 차원은 (k‑1)²에 비례한다. 점수 방정식은 다항식 형태이지만, 여기서는 모든 해가 실수임이 증명된다. 특히, 해의 총 개수는 k에 대해 지수적으로 증가하며, 이는 대수기하학적 관점에서 해의 다양성이 급격히 확장됨을 의미한다. 그럼에도 불구하고, 로그우도 함수의 통계적으로 의미 있는 국소 최대값은 언제나 유일하게 존재한다는 점이 강조된다. 이는 다항분포의 경우 복잡한 해 구조에도 불구하고, 최적화 과정이 단일 최적해로 수렴한다는 강력한 보장을 제공한다.

논문은 이러한 대수적 결과를 실제 데이터 시뮬레이션과 수치적 해석을 통해 검증한다. 정규분포에서는 복소수 해 중 실해가 하나 이상 존재함을 확인하고, MAR 위반 상황에서 실해가 다수 나타나는 현상을 관찰한다. 다항분포에서는 상태 수를 늘릴수록 해의 수가 급증하지만, 최적해는 변함없이 하나임을 실험적으로 입증한다. 이러한 결과는 MLE를 수행할 때, 특히 결측 데이터가 존재하는 상황에서 알고리즘의 수렴성 및 해의 다중성에 대한 사전 이해를 돕는다. 또한, 대수적 복잡성을 고려한 새로운 추정 방법이나 초기값 선택 전략 개발의 필요성을 시사한다.