강인한 라벨 이동 정량화

초록

본 논문은 라벨 이동 상황에서 목표 라벨 분포를 추정하기 위한 강인한 추정기를 제안한다. 제안된 방법은 ρ‑추정(framework) 기반이며, 최대우도추정(MLE)과 동일한 해를 갖는다. 이론적으로 Hellinger 거리 기반 편차 경계와 샘플 복원율을 도출하고, 오염·이상치에 대해 기존 방법보다 뛰어난 견고성을 보인다.

상세 분석

논문은 라벨 이동(label shift) 문제를 두 가지 설정으로 나눈다. 설정 A에서는 소스 데이터로부터 조건부 분포 (Q_i^*) 를 직접 혹은 추정된 (Q_i) 로 이용하고, 혼합 가중치 (\beta) 를 추정한다. 설정 B에서는 소스 도메인에 대해 학습된 베이즈 예측기 (f^*) 를 활용해 동일한 목표를 달성한다. 핵심 아이디어는 ρ‑추정자를 도입해 혼합 모델 (\mathcal{M}_{\text{mix}}(q_1,\dots,q_k)) 안에서 최적의 가중치 (\hat\beta) 를 찾는 것이다. ρ‑추정자는 Hellinger 거리를 사용해 로그우도 대신 로버스트한 테스트 통계 (T) 를 정의하고, 이 통계의 최댓값을 최소화하는 파라미터를 선택한다.

주요 정리는 두 가지이다. 첫째, 제안된 ρ‑추정자는 존재한다면 최대우도추정(MLE)와 동일한 해를 갖는다(정리 3.1). 따라서 기존 EM 알고리즘 등 MLE를 위한 수치적 방법을 그대로 적용할 수 있다. 둘째, ρ‑추정자는 Hellinger 거리 기반 편차 경계를 제공한다. 특히, 소스와 타깃의 조건부 분포가 선형 독립일 때 (\beta^*) 가 유일하게 식별되며, 오염 비율 (\epsilon) 에 대해 (|\hat\beta-\beta^*|_1 = O(\sqrt{(k\log n)/n} + \epsilon)) 와 같은 비정규화된 수렴 속도를 보인다. 이는 기존 KL‑기반 분석이 요구하는 절대 연속성 가정을 완화하고, 이상치가 존재해도 추정이 크게 붕괴되지 않음을 의미한다.

또한 논문은 Hub­er 오염 모델을 고려해 (\beta_0) (오염 성분)의 비율이 작을 경우에도 추정 정확도가 오염 비율에만 의존한다는 점을 강조한다. 이는 Dussap et al. (2023)에서 제시한 강인성 결과와 차별화되며, 보다 일반적인 오염 형태에 대해 이론적 보장을 제공한다. 실험적 검증은 언급되지 않았지만, 이론적 결과는 기존 MLLS, BBSE, KMM 등과 동일한 최적성을 유지하면서도 로버스트성을 추가한다는 점에서 실용적 가치가 크다.