예측 기반 추론의 모든 것: 이론·방법·실무 가이드

초록

예측 모델을 활용해 라벨이 없는 대규모 데이터에서 통계적 효율성을 높이면서도 편향을 교정하는 Prediction‑Powered Inference(PPI)의 핵심 원리와 다양한 변형, 가정 검증 방법, 실무 흐름을 정리한 종합 가이드이다.

상세 분석

본 논문은 예측‑기반 추론(PPI)의 이론적 토대를 명확히 하고, 실제 연구에서 적용할 때 마주치는 세 가지 장벽—개념적, 운영적, 해석적—을 체계적으로 해소한다. 핵심 아이디어는 외부에서 사전 학습된 예측 모델 ˆf를 이용해 라벨이 없는 표본에 대한 가상의 결과 ˆY를 생성하고, 라벨이 있는 소규모 표본에서 실제 Y와 ˆY의 차이를 보정함으로써 “예측 오류 보정”을 수행한다. 이때 기본 가정(A1‑A3)은 (1) 라벨링 메커니즘이 MCAR(또는 적절히 MAR)이어야 하며, (2) 예측 모델이 내부 데이터와 독립적으로 학습돼야 하고, (3) 모든 공변량 X가 완전하게 관측돼야 한다는 점이다.

수식 (1)에서 보듯, PPI는 라벨이 없는 데이터에 대한 손실을 예측값으로 대체하고, 라벨이 있는 데이터에서 예측값과 실제값의 차이를 빼는 형태의 ‘증강 편향 보정’ 추정량이다. 평균 추정의 특수 경우를 보면, 전체 평균은 “예측 평균 + 라벨 평균 잔차”로 분해된다. 이는 전통적인 완전 사례(CC) 분석보다 변동성을 감소시킬 수 있지만, 예측 변수 ˆf(X)의 분산이 실제 Y와의 공분산보다 크게 되면 오히려 효율성이 떨어질 수 있다.

이를 보완하기 위해 PPI++는 스칼라 튜닝 파라미터 λ∈