교차 랜덤 효과 선형 혼합 모델의 정밀 비대칭성

초록

본 논문은 교차 랜덤 효과를 포함하는 일반적인 가우시안 선형 혼합 모델에 대해 최대우도 추정량의 정밀한 비대칭성을 증명한다. 셀 수가 불균형하고 다변량 예측 변수가 존재하는 상황에서도 추정량이 정규분포로 수렴함을 보여주며, 고정 효과, 분산 성분, 오차 분산에 대한 명시적인 asymptotic 공분산 행렬을 제공한다. 이를 통해 신뢰구간, Wald 검정, 표본 크기 계산 등 실용적인 통계 도구를 구축할 수 있다.

상세 분석

이 연구는 교차(random) 효과가 중첩(nested) 구조와 달리 블록 대각 형태를 갖지 않아 기존 이론을 적용하기 어려운 점을 극복한다. 저자는 먼저 모델을 Y_{ii’}|U_i,U_{i’} ∼ N( X_A^{ii’}(β_A+U_i+U_{i’} )+X_B^{ii’}β_B, σ^2 I ) 로 정의하고, U_i∼N(0,Σ), U_{i’}∼N(0,Σ’) 로 가정한다. 여기서 m, m’은 각각 첫 번째와 두 번째 교차 요인의 수준 수이며, n_{ii’}는 각 셀 내 관측치 수이다. 가정(A1)–(A3) 하에 m, m’, n_{ii’}가 모두 무한대로 발산하면서도 m과 m’이 동일 차수로 성장하고, 셀 크기가 평균 n에 비해 충분히 크며, 설계 행렬 X_A, X_B가 비퇴화하고 2차 모멘트를 가지는 것을 전제로 한다.

주요 결과(Result 1)는 추정량 벡터
( Σ̂ m+(Σ’)̂ m’,  β̂_A−β_A, β̂_B−β_B, vec(Σ̂)−vec(Σ), vec(Σ̂’)−vec(Σ’), σ̂^2−σ^2 )
에 대해 적절한 스케일링 행렬을 곱하면 표준 정규분포 N(0,I) 로 수렴함을 보인다. 구체적인 비대칭 공분산은 다음과 같다.

• 고정 효과 β_A는 (Σ/m + Σ’/m’)^{-1} 로 스케일링되며, 이는 교차 효과가 두 요인 모두에 걸쳐 평균적으로 기여한다는 의미이다.
• 고정 효과 β_B는 (σ^2 C_{β_B} mm’ n)^{-1} 로 스케일링되며, 여기서 C_{β_B}는 X_B의 설계 행렬에 대한 정보 행렬이다.
• 분산 행렬 Σ와 Σ’에 대한 추정량은 2 D_{d_A}(Σ⊗Σ)D_{d_A}^T + T_{d_A} m (또는 m’) 형태의 공분산을 갖는다. D_{d_A}는 대칭 행렬을 벡터화하는 전치 연산자이며, T_{d_A}는 고차항을 포함하는 보정 행렬이다.
• 오차 분산 σ^2는 2σ^4 mm’ n^{-1} 의 비대칭 분산을 가진다.

특히, β_A와 β_B의 수렴 속도가 서로 다름을 강조한다. β_A는 m^{-1} 수준으로, β_B는 (mm’n)^{-1} 수준으로 빠르게 수렴한다. 이는 교차 랜덤 효과가 고정 효과 β_A에 직접적인 변동을 제공하지만, β_B는 순수히 관측치 수에 의해 정확도가 결정된다는 직관과 일치한다.

또한 결과는 추정량들 간의 asymptotic orthogonality, 즉 서로 독립적인 한계 분포를 보인다. 이는 복잡한 교차 구조에도 불구하고, 대규모 샘플에서는 각 파라미터 군이 서로 영향을 주지 않는다는 중요한 통계적 해석을 제공한다.

저자는 기존 문헌(예: Miller 1973, Hartley & Rao 1967, Jiang 1996, Lyu et al. 2024)과 비교하여, 비균형 설계와 다변량 랜덤 슬로프를 포함한 일반적인 상황에서도 명시적인 비대칭 공분산을 도출한 점을 강조한다. 특히, 결과가 중첩 모델에서 알려진 형태와 거의 동일함을 발견했으며, 이를 설명하기 위해 섹션 4에서 평균값을 모집단 평균으로 대체하는 heuristic을 제시한다.

마지막으로, 제한 최대우도(Restricted MLE)에도 동일한 비대칭 결과가 적용됨을 언급하며, 실제 데이터 분석에서 흔히 사용되는 REML 추정과도 일관성을 유지한다는 점을 강조한다.