마이크로어레이 경험적 베이즈와 두 집단 모델에 대한 답변

초록

본 답변서는 마이크로어레이 데이터의 대규모 가설 검정에 적용된 경험적 베이즈와 두 집단 모델에 관한 원 논문에 대한 논쟁을 정리한다. 토론자들의 비판을 구체적으로 반박하고, 이론적·경험적 영가설의 차이, 종속성 문제, 로컬 FDR 추정 방법의 안정성 등을 재조명한다. 또한 실무 적용 시 주의할 점과 향후 연구 방향을 제시한다.

상세 분석

본 Rejoinder는 원 논문에서 제시한 두 집단 모델(Null·Non‑null)과 경험적 베이즈 접근법이 마이크로어레이와 같은 고차원 데이터에 어떻게 적용되는지를 재검토한다. 토론자들은 (1) 영가설 분포를 이론적 정규분포로 가정하는 것이 현실과 맞지 않을 수 있다, (2) 대규모 검정에서 변수 간 종속성이 FDR 추정에 미치는 영향이 과소평가되었다, (3) 로컬 FDR(lfdr) 추정 시 스무딩 파라미터 선택이 결과에 민감하다는 점을 지적했다. 저자는 이에 대해 경험적 영가설(empirical null) 추정 절차를 상세히 설명하고, 표본 평균과 분산을 이용한 적응적 조정이 이론적 영가설보다 더 신뢰할 수 있음을 실증적으로 보여준다. 또한, 종속성을 완전히 없앨 수는 없지만, 대규모 검정에서는 평균적인 종속 효과가 FDR 제어에 큰 영향을 주지 않으며, 필요시 블록 부트스트랩이나 회귀 기반 보정으로 보완 가능함을 강조한다. 로컬 FDR 추정에 있어서는 커널 밀도 추정의 밴드폭 선택을 교차 검증(CV) 혹은 최소 평균 제곱오차(MISE) 기준으로 자동화함으로써 주관적 선택을 최소화한다. 저자는 이러한 방법론적 보완이 실제 마이크로어레이 데이터(예: leukemia, prostate cancer)에서 검정력과 오류 제어 모두를 개선한다는 실험 결과를 제시한다. 마지막으로, 경험적 베이즈 프레임워크가 “큰 데이터, 작은 효과” 상황에서 사전 정보가 거의 없을 때도 안정적인 추정치를 제공한다는 점을 강조하며, 향후 연구에서는 비정규 영가설, 다중 비교 구조 확장, 그리고 베이지안 네트워크와의 통합을 제안한다.