클래스 충돌을 통한 미세 불확실성 정량화

초록

본 논문은 동일 입력이 서로 다른 클래스에 속할 확률, 즉 “클래스 충돌”을 기반으로 새로운 알레아토릭 불확실성 지표인 충돌 행렬 S를 제안한다. S는 K × K 행렬로 각 클래스 쌍 사이의 구분 난이도를 정량화하며, 기존 베이즈 오류율(BER)보다 더 세밀한 정보를 제공한다. 저자는 대비 학습 모델을 이용해 행렬 G = SSᵀ를 추정하고, 비음수 행렬 이론을 통해 S 를 복원하는 방법을 제시한다. 또한 S 와 대비 모델을 결합해 개별 샘플의 사후 클래스 확률을 추정하는 알고리즘을 설계하고, 여러 데이터셋에서 실험적으로 검증한다.

상세 분석

이 논문은 불확실성 정량화 분야에서 흔히 사용되는 베이즈 오류율이나 엔트로피와는 달리, 입력 자체가 여러 클래스에 동시에 속할 수 있는 “클래스 충돌” 현상을 직접 측정한다는 점에서 혁신적이다. 충돌 행렬 S는 대각선이 0이고 비대각선 원소 s_{ij} 는 클래스 i와 j 사이에서 동일 입력이 관측될 확률을 나타낸다. 따라서 S는 데이터 분포 자체에 내재된 알레아토릭 불확실성을 완전하게 기술하며, 클래스 쌍별 구분 난이도를 정량화함으로써 기존의 전역적 지표보다 훨씬 세밀한 진단이 가능하다.

수학적으로 S는 비음수 행렬이며, 행렬 G = SSᵀ는 각 클래스의 “충돌 프로파일” 간 내적을 담는다. 저자는 대비 학습(contrastive learning) 기반의 쌍별 동일/다름 판별 모델을 학습시켜, 두 입력이 동일 클래스에 속할 확률을 추정한다. 이 모델은 PAC 학습 가능성을 보이며, 추정된 동일 확률을 이용해 G 의 원소를 근사한다. 핵심 이론적 기여는 비음수 행렬 G 로부터 S 를 유일하게 복원할 수 있다는 새로운 정리이다. 이는 S 의 비대각선 원소가 모두 양수이며, G 가 완전 순위(full rank)라는 가정 하에 성립한다. 복원 과정은 비음수 행렬 분해와 선형 시스템 해석을 결합한 알고리즘으로 구현된다.

복원된 S와 대비 모델을 결합하면, 임의의 입력 x 에 대해 클래스 k 의 사후 확률 p(y=k|x) 를 다음과 같이 계산한다. 먼저 x 와 데이터베이스 내 다른 샘플들과의 동일성 확률을 대비 모델로 얻고, 이를 S 의 행/열 가중치와 결합해 베이즈 규칙 형태의 추정값을 만든다. 실험에서는 MNIST, CIFAR‑10, 그리고 의료 데이터셋에 대해 충돌 행렬 추정 정확도와 사후 확률 추정 성능을 기존 MC‑Dropout, 베이즈 신경망, 교차 검증 정확도와 비교하였다. 결과는 S  기반 방법이 특히 클래스 간 혼동이 심한 상황에서 높은 정밀도와 재현율을 제공함을 보여준다.

이 논문은 (1) 새로운 불확실성 지표 S 의 정의와 그 수학적 성질, (2) 대비 학습을 통한 G  추정 및 S  복원 이론, (3) S 와 대비 모델을 이용한 사후 확률 추정 알고리즘, (4) 다양한 실험을 통한 실용성 검증이라는 네 축으로 구성된다. 특히 비음수 행렬 복원 정리는 기존 비음수 행렬 이론에 새로운 응용을 제시하며, 향후 데이터 분포 기반 불확실성 분석에 중요한 도구가 될 것으로 기대된다.