데이터를 지렛대로 이웃 데이터셋이 예측 다중성에 미치는 영향

초록

본 논문은 데이터 처리 과정에서 발생하는 ‘이웃 데이터셋’ 개념을 도입해, 동일한 Rashomon 파라미터 하에서 클래스 간 분포 겹침이 클수록 예측 다중성이 오히려 감소한다는 이론적 관계를 제시한다. 이를 바탕으로 활성 학습과 결측값 보간 두 영역에 적용해 다중성을 정량·정성 분석하고, 다중성을 제어할 수 있는 새로운 데이터 획득·보간 알고리즘을 제안한다.

상세 분석

논문은 먼저 예측 다중성(predictive multiplicity)을 Rashomon 집합 Θ 으로 정의하고, 이 집합 내 모델들의 예측 충돌 비율을 ‘ambiguity’ M_A 로 측정한다. 기존 연구는 모델 선택이나 전체 데이터 노이즈가 다중성을 증가시킨다고 주장했지만, 저자는 데이터 처리 단계에서 발생하는 미세한 변화를 ‘k‑neighbouring datasets’(크기 n 인 두 데이터셋이 정확히 k 개의 샘플만 다름)로 모델링한다. 핵심 이론은 동일한 Rashomon 파라미터 ε 를 공유하는 두 이웃 데이터셋을 비교할 때, 클래스 간 분포 겹침(overlap)이 큰 데이터셋은 학습 손실이 더 크게 증가하여 ε 이하의 모델 수가 감소하고, 결과적으로 Θ의 크기가 작아져 M_A 가 낮아진다는 것이다. 이는 “덜 구분되는(task‑level) 상황에서는 다중성이 높다”는 기존 통찰과는 반대되는 결과이며, 여기서 중요한 전제는 ε 를 데이터 처리에 따라 변동시키지 않고 고정한다는 점이다.

이론적 결과를 검증하기 위해 저자는 두 실용적인 데이터 처리 시나리오—활성 학습(active learning)과 결측값 보간(data imputation)—에 프레임워크를 적용한다. 활성 학습에서는 라벨링 후보를 선택할 때, 기존의 불확실성 기반 전략이 다중성을 무작위로 증가시킬 수 있음을 보이고, ‘multiplicity‑aware acquisition’ 알고리즘을 설계해 선택된 샘플이 테스트 집합에서 예측 충돌을 최소화하도록 한다. 실험 결과, 데이터 분포 겹침이 낮은(즉, 클래스가 명확히 구분되는) 상황에서 제안 방법이 다중성을 현저히 감소시키면서 정확도는 유지한다는 것이 확인되었다.

결측값 보간에서는 여러 보간 기법이 각각 다른 이웃 데이터셋을 만든다. 저자는 보간 방법에 따라 Rashomon 집합의 크기가 어떻게 변하는지를 정량화하고, ‘multiplicity‑aware imputation’ 전략을 제안한다. 특히 결측 비율이 높을수록 데이터셋이 더 쉽게 변형될 수 있어, 다중성을 조절하는 여지가 커진다. 실험에서는 평균 10% ~ 15% 수준의 다중성 변화를 관찰했으며, 이는 정책·법률 분야에서 공정성·다양성 요구에 직접적인 영향을 미칠 수 있다.

전체적으로 논문은 데이터 처리 단계에서 발생하는 미세한 변화를 이웃 데이터셋으로 형식화함으로써, 모델링 단계가 아닌 데이터 단계에서도 다중성을 사전에 예측·제어할 수 있음을 보여준다. 이 접근은 기존의 모델‑중심 분석을 보완하고, 데이터 엔지니어링·프라이버시·공정성 논의에 새로운 도구를 제공한다. 다만, 이론적 증명은 이진 분류와 특정 손실 함수에 제한되며, 다중 클래스·회귀 문제에 대한 일반화와 실시간 시스템에의 적용 가능성은 향후 연구 과제로 남는다.