고차원 데이터 두표본 베이지안 평균 검정

초록

본 논문은 차원 수 p가 표본 크기 n과 비례하여 증가하는 상황(p/n→c₁∈(0,∞))에서, 비정보적 사전(prior)을 사용한 베이지안 팩터 기반 두표본 평균 검정 방법을 제안한다. 검정 통계량의 점근 정규성을 증명하고, 비정규·이질 분산 상황에서도 높은 검정력을 보이며, 특히 소표본·이질 분산 환경에서 기존 방법보다 우수함을 시뮬레이션과 실제 SRBCT 데이터 분석을 통해 확인한다.

상세 분석

이 연구는 고차원(two‑sample) 평균 검정 문제를 베이지안 프레임워크 안에서 재구성한 점이 가장 큰 특징이다. 기존의 Hotelling T² 검정은 p가 n보다 클 때 공분산 행렬의 역행렬이 정의되지 않아 적용이 어려웠으며, 이를 보완하기 위해 대각선만 이용한 T_SD, T_CQ 등 여러 L₂‑norm 기반 검정이 제안되었다. 그러나 이러한 방법들은 공분산 구조를 완전히 무시하거나, 차원 축소·무작위 투영에 의존해 스케일링에 민감한 한계를 가지고 있었다.

논문은 먼저 역위시트 사전 W⁻¹ₚ(m,V) 을 비정보적 형태(V=k′Iₚ)로 설정하고, H₀와 H₁에 대한 사후밀도를 정확히 적분함으로써 베이지안 팩터 BF₁₀의 닫힌 형태식을 도출한다. 핵심은 공분산 행렬 Sₙ이 고차원에서 불안정하므로, 전체 행렬 대신 대각선 diag(Sₙ) 을 이용해 Λₙ=(diag(Sₙ)+kIₚ)⁻¹ 을 정의하고, 검정 통계량을 n₀DᵀΛₙD−tr(Uₙ) / √{2 tr(Uₙ²)} 형태로 구성한다. 여기서 D=ȳ₁−ȳ₂, Uₙ=ΛₙSₙ이며, tr(Uₙ)와 tr(Uₙ²)에 대한 비율 일관 추정량을 제시해 점근 정규성을 확보한다.

정리 4는 H₀와 H₁ 모두에서 위 통계량이 표준 정규분포로 수렴함을 증명하고, 정리 5(코롤러리)에서는 비대칭 차이 δ=μ₁−μ₂ 에 대한 검정력 표현 g(δ)=Φ(−u₁₋α+ n₀δᵀΛδ/√{2 tr(U²)}) 를 제공한다. 특히, k=O(p²)일 때 Λₙ은 대각선 정보만을 보존하면서도 역행렬의 발산을 억제한다는 레마 1의 결과는 고차원에서의 안정성을 이론적으로 뒷받침한다.

소표본 보정 부분에서는 편향 보정 행렬 R₁,R₂,R₃을 도입해 n₀DᵀΛₙR⁻¹₁D−tr(R⁻¹₂Uₙ) / √{ĥtr(U²)} 형태의 수정 통계량 T_BF,2를 제안한다. 이는 O(n⁻¹) 수준의 편향을 제거하여 실제 표본 크기가 작을 때도 명목 수준(α)을 정확히 유지한다는 시뮬레이션 결과가 있다.

시뮬레이션에서는 이질 분산(diagonal variances가 서로 다름) 상황, 희소·비희소 평균 차이, 그리고 정규성 위반(서브가우시안) 등 다양한 설정을 고려했으며, 제안 검정은 기존 L₂‑norm 기반 검정(T_CQ, T_SD)과 L_∞‑norm 기반 검정보다 전반적으로 낮은 제1종 오류와 높은 검정력을 보였다. 특히 p≈n·1.5 정도의 고차원·소표본 경우에도 안정적인 성능을 유지한다.

실제 데이터 분석에서는 SRBCT(소아 뇌암) 유전자 발현 데이터(p≈2308, n₁=63, n₂=58)를 이용해 두 암 유형 간 평균 차이를 검정하였다. 제안 검정은 p‑값이 0.012로 유의미한 차이를 발견했으며, 기존 검정들은 p‑값이 0.08 이상으로 비유의미하게 나타났다. 이는 대각선 공분산 정보를 활용한 베이지안 접근이 실제 생물학적 차이를 더 민감히 포착함을 시사한다.

전반적으로 이 논문은 고차원·소표본 상황에서 베이지안 팩터를 이용한 두표본 평균 검정이라는 새로운 패러다임을 제시하고, 이론적 정당성(점근 정규성, 검정력)과 실용적 구현(비율 일관 추정, 소표본 보정)을 모두 갖춘 완성도 높은 연구라 할 수 있다.