경험적 베이즈 축소는 측정오차를 완전히 보정하지 않는다

초록

본 논문은 교사·병원·특허 심사관 등에서 사용되는 경험적 베이즈(Empirical Bayes) 추정치를 회귀 변수로 사용할 경우, 전통적인 측정오차(Errors‑in‑Variables) 보정보다 더 강한 가정이 필요함을 보인다. 저자는 고전적인 측정오차 보정 추정량이 최소 분산 효율을 달성하며, 베이즈 축소 추정량은 추가 가정 없이는 이를 능가할 수 없다는 이론적 결과를 제시한다. 또한 비선형 변환에 대한 추정은 일반적으로 매우 느린 최소극대(minimax) 수렴률을 보이며, 실증과 시뮬레이션을 통해 고전적 방법이 실무에서 더 안정적임을 확인한다.

상세 분석

논문은 먼저 관측된 데이터 ((Y_i,X_i,\sigma_i))와 잠재 변수 (\mu_i) 사이의 관계를 명시한다. 가정 2.1에 따라 (X_i\mid\mu_i,\sigma_i\sim N(\mu_i,\sigma_i^2))이며, 이는 교사 가치‑추가와 같은 평균 추정치가 중심극한정리로 정규 근사를 갖는 상황을 모델링한다. 이때 연구자는 실제 관심 대상인 (\beta_0=\operatorname{Cov}(Y_i,\mu_i)/\operatorname{Var}(\mu_i))를 추정하고자 한다. 고전적인 측정오차 보정은 (\hat\beta = \operatorname{Cov}_n(Y_i,X_i)/\bigl(\operatorname{Var}_n(X_i)-\bar\sigma^2\bigr)) 형태로, 샘플 공분산·분산에 관측된 오차분산 (\sigma_i^2)를 빼는 간단한 보정식을 사용한다. 이 추정량은 정규성 가정이 없어도 일관성과 점근 정규성을 유지한다는 장점이 있다.

반면 경험적 베이즈 축소 추정량 (\tilde\beta)는 (\hat\mu_i=\frac{\sigma_i^2}{\sigma_i^2+\hat\sigma_\mu^2},X_i+\frac{\hat\sigma_\mu^2}{\sigma_i^2+\hat\sigma_\mu^2},\hat\mu)와 같은 형태의 사후 평균을 회귀에 사용한다. 저자는 이 추정량이 일관성을 갖기 위해서는 두 가지 추가 가정이 필요함을 강조한다. 첫 번째는 “예측 무편향”(forecast unbiasedness) 즉 (\operatorname{Cov}(\hat\mu_i,\mu_i)=\operatorname{Var}(\hat\mu_i))이며, 이는 베이즈 사후 평균이 실제 잠재 변수의 선형 예측에 정확히 1배의 계수를 갖는다는 의미다. 두 번째는 “외생성”(exogeneity) 가정으로, (\mathbb{E}