대칭성 활용 모델의 불확실성 보정 이론

초록

본 논문은 대칭성을 내재한 equivariant 신경망이 데이터가 희소한 환경에서 어떻게 불확실성을 추정하고, 분류·회귀에서의 캘리브레이션 오류(ECE, ENCE)를 감소시키는지를 이론적으로 규명한다. 그룹 대칭과 모델·데이터 간 불일치가 캘리브레이션에 미치는 영향을 정량화하고, 새로운 “aleatoric bleed” 지표를 제안한다. 실험을 통해 대칭 불일치가 캘리브레이션을 악화시킴을 확인하고, 제시한 경계가 실제 오류와 잘 맞는다는 점을 보여준다.

상세 분석

이 논문은 equivariant 함수와 불확실성 캘리브레이션 사이의 관계를 처음으로 정량화한다는 점에서 학술적 의의가 크다. 먼저, 저자는 기존의 일반화 경계(특히 Wang et al., 2024)를 캘리브레이션 손실에 직접 연결한다. 분류에서는 기대 캘리브레이션 오류(ECE)를, 회귀에서는 기대 정규화 캘리브레이션 오류(ENCE)를 사용해, 각 신뢰도 구간에 대한 평균 분류·회귀 오류가 그룹의 궤도(orbit)와 기본 영역(fundamental domain) 위에서 어떻게 제한되는지를 보인다. 이를 통해 “정확도와 캘리브레이션은 동일한 오류 항에 의해 좌우된다”는 중요한 통찰을 얻는다.

논문은 세 가지 대칭 상황—정확(correct), 부정확(incorrect), 외재(extrinsic)—을 구분하고, 각각에 대해 상한·하한을 도출한다. 특히, 정확한 equivariance(ground‑truth 함수와 모델이 동일한 그룹을 공유)에서는 기존의 일반화 경계와 동일한 형태의 캘리브레이션 상한이 얻어지며, 이는 그룹 크기가 클수록(즉, 더 많은 대칭이 존재할수록) 캘리브레이션 오류가 이론적으로 감소함을 의미한다. 반면, 부정확하거나 외재적인 경우에는 그룹 작용이 데이터 분포를 외부로 이동시켜, 동일한 신뢰도 구간 내에서 오류 분산이 크게 증가한다. 이때 도출된 하한은 “대칭 불일치가 캘리브레이션을 최소한 이 정도는 악화시킨다”는 보수적인 보장을 제공한다.

회귀 측면에서는 기존 ENCE 정의가 스칼라 평균·분산에만 적용된다는 한계를 지적하고, 다변량 정규분포에 대한 일반화 버전을 제시한다. 여기서도 동일하게, 평균·공분산 추정 오류가 그룹 궤도 위에서 제한되므로, equivariant 모델이 올바른 대칭을 가질 경우 ENCE가 이론적 상한에 가깝게 수렴한다는 것을 증명한다.

새롭게 도입된 “aleatoric bleed” 지표는 모델이 aleatoric(데이터 내재) 불확실성과 epistemic(모델) 불확실성을 얼마나 잘 구분하는지를 정량화한다. 저자는 equivariant 모델에 대해 aleatoric bleed의 하한을 구하고, 대칭 불일치가 이 값을 크게 만든다는 실험적 증거를 제시한다. 이는 캘리브레이션 오류와 별개로, 불확실성 분해 자체가 대칭 구조에 민감함을 보여준다.

실험에서는 로봇 조작, 은하 형태 분류, 분자 물리 시뮬레이션 등 7개의 실제·시뮬레이션 데이터셋을 사용했다. 각 데이터셋에 대해 그룹 크기(예: 회전 그룹 SO(2), SO(3), 대칭군 D_n)와 대칭 일치 정도를 변형시켜, ECE·ENCE·aleatoric bleed가 이론적 경계와 어떻게 일치하는지 확인했다. 결과는 대칭이 정확히 맞을 때 캘리브레이션이 크게 개선되고, 불일치가 심할수록 오히려 과신(over‑confidence) 현상이 나타남을 명확히 보여준다. 또한, 제안된 경계가 실제 측정값을 상향·하향으로 포괄함을 확인해, 이론적 분석이 실용적인 모델 선택 기준으로 활용될 수 있음을 입증한다.

전반적으로 이 논문은 “대칭 = 일반화”라는 기존 인식을 “대칭 = 캘리브레이션”까지 확장함으로써, 안전·신뢰성이 요구되는 분야에서 equivariant 모델을 설계·평가하는 새로운 프레임워크를 제공한다.