희소화는 금지: 마이크로바이옴 데이터 정규화의 함정

초록

마이크로바이옴 시퀀싱 데이터는 샘플마다 라이브러리 크기가 크게 차이 나며, 단순 비율 변환이나 희소화(rarefying) 방식은 과도한 이분산과 데이터 손실을 초래한다. 저자들은 음이항(Negative Binomial) 혼합 모델을 기반으로 한 edgeR·DESeq 방식이 통계적 파워와 정확도를 크게 향상시킨다는 것을 시뮬레이션과 실제 데이터를 통해 입증한다. 따라서 희소화는 통계적으로 부적합하므로 사용을 금하고, 대신 분산 안정화 변환을 적용한 모델 기반 정규화를 권장한다.

상세 분석

본 논문은 마이크로바이옴 데이터의 특수성을 통계학적 관점에서 면밀히 검토한다. 첫째, DNA 시퀀싱에서 발생하는 라이브러리 크기 차이는 단순 스케일링만으로는 보정될 수 없으며, 각 OTU(Operational Taxonomic Unit)의 비율 추정에 대한 표준오차가 라이브러리 크기에 비례해 달라지는 이분산(heteroscedasticity) 문제를 야기한다. 저자들은 이를 해결하기 위해 Gamma‑Poisson 혼합 모델, 즉 음이항 분포를 도입한다. 음이항 모델은 평균 μ와 분산 ν = s · μ + φ · s² · μ² 형태로, φ가 0이면 포아송, 양수이면 과분산을 반영한다. 이 모델은 RNA‑Seq 분석에 널리 쓰이는 edgeR·DESeq 패키지에 구현돼 있어, 마이크로바이옴 데이터에도 그대로 적용 가능함을 보여준다.

둘째, 기존에 흔히 사용되는 ‘희소화’는 모든 샘플을 최소 라이브러리 크기로 무작위 하위표집(subsampling)함으로써 데이터의 90% 이상을 버리는 비효율적인 방법이다. 논문은 간단한 두 샘플 예시와 실제 GlobalPatterns, DietaryPatterns 데이터셋을 통해, 희소화가 통계적 파워를 급격히 감소시키고, 특히 희소화 후에는 원래 구분 가능했던 차이를 검정에서 놓치는 경우가 빈번함을 증명한다. 또한, 희소화 과정 자체가 무작위성을 도입해 재현성을 해치며, 동일한 최소 크기를 선택하는 기준이 주관적이고 최적값을 알 수 없다는 점을 지적한다.

셋째, 저자들은 시뮬레이션 A(전체 커뮤니티 거리 기반 클러스터링)와 시뮬레이션 B(OTU 수준 차등 풍부도 검정)를 설계해, 다양한 라이브러리 크기와 효과 크기 조건에서 네 가지 방법(비율, 희소화, edgeR/DESeq 기반 음이항 모델, metagenomeSeq의 제로‑인플레이션 가우시안 모델)의 성능을 비교한다. 결과는 음이항 모델이 가장 낮은 거짓 양성률과 높은 검정력을 보이며, metagenomeSeq은 복제 수가 충분할 때는 경쟁력 있지만 여전히 거짓 양성률이 높다.

마지막으로, 논문은 통계 이론(분산 안정화 변환, 베이즈적 정보 공유)과 실증적 결과를 종합해, 마이크로바이옴 연구에서 희소화를 완전히 배제하고, edgeR·DESeq와 같은 음이항 기반 정규화·분석 파이프라인을 채택할 것을 강력히 권고한다. 이를 위해 저자들은 phyloseq 패키지에 마이크로바이옴 전용 확장을 제공, 사용자가 기존 RNA‑Seq 워크플로우를 그대로 적용하도록 지원한다.