관측 데이터만으로 원인과 결과 구분하기 방법과 벤치마크

초록

본 논문은 관측만으로 두 변수 간 인과 방향을 판단하는 두 가지 주요 방법인 가법 잡음 모델(ANM)과 정보기하학적 인과 추론(IGCI)을 리뷰하고, 100개의 실제 원인‑결과 쌍을 모은 CauseEffectPairs 벤치마크를 제시한다. 실험 결과, Hoyer 등(2009)이 제안한 ANM 구현이 63 %±10의 정확도와 0.74±0.05의 AUC로 가장 높은 성능을 보였으며, 해당 방법의 일관성을 이론적으로 증명한다.

상세 분석

이 논문은 인과 추론 분야에서 가장 근본적인 문제인 “X가 Y를, 혹은 Y가 X를 야기하는가”를 관측 데이터만으로 해결하려는 시도를 체계적으로 정리한다. 먼저, 인과 관계를 정의하기 위해 Pearl의 do-연산자를 도입하고, 혼동 변수·선택 편향·피드백 루프가 없다는 가정 하에 두 변수만을 이용한 bivariate 인과 탐지 문제를 공식화한다. 이때 인과 방향이 식별 가능하려면 원인과 효과의 결합 확률밀도 p(C,E) 를 두 가지 가능한 팩터화(p_C·p_{E|C}와 p_E·p_{C|E}) 중 복잡도가 낮은 쪽이 실제 모델이라는 가정이 필요하다.

두 가지 접근법은 이 복잡도 개념을 구체화한다. 첫 번째인 Additive Noise Model(ANM)은 Y = f(X) + N, N⊥X 라는 형태를 가정한다. 여기서 f는 비선형 함수이며, 잔차 N이 X와 독립적일 경우 X→Y 를 원인으로 판단한다. 논문은 기존 ANM 구현을 그대로 사용하면서, 회귀 단계에서 Gaussian Process, Kernel Ridge, 혹은 다항 회귀 등 다양한 비선형 추정기를 적용하고, 독립성 검증으로 HSIC, 거리 기반 통계량 등을 활용한다. 또한, ANM의 일관성(표본 크기가 무한대로 갈 때 올바른 인과 방향을 선택한다는 성질)을 Hoyer et al. (2009) 알고리즘에 대해 엄밀히 증명한다는 점이 이론적 기여로 강조된다.

두 번째인 Information Geometric Causal Inference(IGCI)는 잡음이 없거나 매우 적은 경우에 초점을 맞춘다. IGCI는 원인 변수의 분포와 함수 f의 기울기 사이에 독립성이 존재한다는 가정을 이용한다. 구체적으로, 원인 X의 누적분포함수(F_X)와 효과 Y의 조건부 함수 f가 서로 독립적이면 X→Y 로 판단한다. 이를 위해 로그-밀도 차이와 엔트로피 추정량을 이용한 스코어를 정의하고, 여러 변형(예: 정규화된 차분, 양방향 평균)으로 실험한다.

벤치마크인 CauseEffectPairs는 37개의 서로 다른 도메인(기상, 생물학, 의학, 공학, 경제 등)에서 수집된 100개의 실제 데이터 쌍을 포함한다. 각 쌍에 대해 저자들은 도메인 지식과 실험적 근거를 바탕으로 “진짜” 인과 방향을 라벨링하였다. 논문은 이 벤치마크와 함께 인공적으로 생성한 시뮬레이션 데이터(선형·비선형, 다양한 잡음 수준)에서도 실험을 수행한다.

실험 결과는 다음과 같다. ANM 기반 방법은 전체 100쌍 중 약 63 %를 정확히 판별했으며, AUC는 0.74 수준이다. IGCI는 데이터가 거의 잡음이 없을 때는 경쟁력 있는 성능을 보였지만, 잡음이 섞인 실제 데이터에서는 전반적으로 낮은 정확도를 기록했다. 또한, 다양한 회귀 및 독립성 검정 조합을 비교했을 때, Gaussian Process 회귀와 HSIC 독립성 검정이 가장 안정적인 결과를 제공했다. 통계적 유의성을 확보하기 위해 부트스트랩과 교차 검증을 적용했으며, 결과의 변동성을 ±10 % 정도로 보고한다.

논문의 한계점으로는 벤치마크 규모가 아직 충분히 크지 않아 통계적 결론을 일반화하기 어렵다는 점, 그리고 혼동 변수와 선택 편향을 완전히 배제한 상황만을 다루었다는 점을 언급한다. 향후 연구에서는 다변량 확장, 비선형 혼합 모델, 그리고 반사적 피드백 구조를 포함한 복합 인과 그래프에 대한 방법론 개발이 필요하다.