고차원 데이터에서 데이터 적응형 공변량 균형을 통한 인과 효과 추정

초록

본 논문은 랜덤 포레스트 기반의 데이터 적응형 유사도 커널을 이용해 관측 데이터의 공변량 균형을 직접 추정하고, 이를 통해 고차원 상황에서도 중요한 교란변수를 자동으로 강조하는 비모수 가중치 방법을 제안한다. 제안 방법은 가중치가 정규화된 역경향점수에 L2 수렴함을 보이며, 시뮬레이션 및 실제 데이터 적용을 통해 기존 방법보다 편향·분산 측면에서 우수함을 입증한다.

상세 분석

이 논문은 인과 추정에서 가장 핵심적인 문제인 교란(confounding) 조절을 고차원 공변량 공간에서 효과적으로 수행하기 위한 새로운 비모수 가중치 프레임워크를 제시한다. 기존의 가중치 추정 방법은 크게 두 축으로 나뉜다. 하나는 경향점수(propensity score)를 모델링하고 그 역수를 가중치로 사용하는 방식이며, 다른 하나는 직접적으로 두 집단 간 공변량 분포 차이를 최소화하는 균형 기반 방법이다. 전자는 모델 지정 오류에 취약하고, 후자는 고차원에서 모든 변수에 동일한 중요도를 부여함으로써 실제 교란변수를 충분히 강조하지 못한다는 한계가 있다.

저자들은 이러한 문제점을 해결하기 위해 다변량 랜덤 포레스트(multivariate random forest)를 활용한다. 치료 변수와 결과 변수를 동시에 “다중 응답” 형태로 모델링함으로써, 트리 분할 과정이 교란변수와 결과에 동시에 영향을 미치는 영역을 우선적으로 탐색하도록 설계한다. 이렇게 학습된 포레스트에서 두 관측치가 동일한 리프 노드에 속할 확률을 커널 값으로 정의하고, 이 커널을 이용해 치료군과 대조군 사이의 MMD(Maximum Mean Discrepancy) 거리 를 측정한다. 커널이 교란변수에 민감하게 반응하므로, 가중치 최적화 과정에서 실제 교란변수에 더 큰 가중치를 부여하게 된다.

이론적 측면에서 저자들은 단순화된 랜덤 스플릿 모델을 가정하여, 제안된 커널이 보편적(universal)임을 증명하고, 해당 커널을 이용한 MMD 최소화 가중치가 L2 노름에서 정규화된 역경향점수에 수렴한다는 정리를 제시한다. 이는 가중치가 점근적으로 효율적이며, 평균 치료 효과(ATE) 추정량이 일관성을 가진다는 것을 의미한다. 또한, 랜덤 포레스트는 잡음 변수에 대해 수렴 속도가 영향을 받지 않는 특성을 갖기에, 고차원 상황에서도 변수 선택 효과가 자연스럽게 구현된다.

실험에서는 교란 구조가 복잡하고 차원이 높은 시뮬레이션 시나리오를 다수 설정하고, 기존의 고차원 경향점수 기반 방법(예: outcome adaptive lasso), 에너지 밸런싱, MMD 기반 비모수 방법 등과 비교한다. 결과는 제안 방법이 평균 편향, 평균 제곱 오차(MSE) 모두에서 우수함을 보여준다. 실제 데이터 예시(예: 의료 기록 데이터)에서도 치료군과 대조군의 공변량 분포가 효과적으로 맞춰졌으며, 추정된 치료 효과가 기존 방법보다 해석 가능하고 안정적인 값을 제공한다.

한계점으로는 랜덤 포레스트의 이론적 수렴 특성이 아직 완전하게 정립되지 않았으며, 제안된 가중치 최적화가 비선형 최적화 문제이기 때문에 계산 비용이 크게 증가할 수 있다는 점을 들 수 있다. 또한, 커널 정의가 트리 수와 깊이에 민감하므로 하이퍼파라미터 튜닝이 필요하다. 향후 연구에서는 더 효율적인 최적화 알고리즘 개발과, 다른 비모수 모델(예: 부스팅, 신경망) 기반 커널 확장 가능성을 탐색할 여지가 있다.