낮은 모델 신뢰도를 설명하는 고신뢰도 반사실 이미지 생성

초록

본 논문은 이미지 분류 모델이 예측에 대한 자신감이 낮은 이유를 설명하기 위해 고신뢰도 반사실 이미지를 생성하는 다섯 가지 방법을 제안한다. 제안된 방법은 이미지·특징·잠재공간 기반 최적화와 자동인코더 재구성을 활용한다. 두 데이터셋에서 실험한 결과, 재구성(Reco), 잠재공간 최적화(LGD), 잠재 최근접 이웃(LNN)이 가장 우수했으며, 이를 멀티모달 대형 언어 모델에 입력하면 낮은 신뢰도의 원인을 정확히 서술할 수 있음을 확인하였다.

상세 분석

이 연구는 모델의 불확실성을 정량화하는 기존 방법들—소프트맥스 최대값, 베이지안 신경망, MC dropout, 앙상블 등—이 데이터 분포 불일치 상황에서 한계를 보이는 점을 지적한다. 저자들은 이러한 한계를 보완하기 위해 ‘인지 모델 컴피턴시(Perception Model Competency)’라는 통합 불확실성 지표를 사용한다. 이 지표는 최대 소프트맥스 확률과 자동인코더 기반 재구성 손실을 곱한 P aR C E 점수를 통해 계산되며, ID(인-디스트리뷰션) 확률을 보정해 실제 정확도와 직접적인 상관관계를 갖는다.

반사실 이미지 생성 방법은 크게 두 축으로 나뉜다. 첫 번째 축은 이미지 공간에서 직접 최적화를 수행하는 IGD와 FGD이다. IGD는 LPIPS 기반 시각적 유사성을 유지하면서 컴피턴시 점수를 최대화하도록 손실 함수를 설계하고, 단계적 그래디언트 하강을 통해 원본 이미지와 유사한 고신뢰도 이미지를 만든다. FGD는 이미지 자체보다는 특징 벡터의 변화를 최소화하면서 컴피턴시를 높이는 방식으로, 코사인 유사도를 거리 함수로 사용한다. 두 방법 모두 원본과의 시각적 차이가 크지 않지만, 최적화 과정에서 잡음이 축적될 위험이 있다.

두 번째 축은 자동인코더의 잠재공간을 활용한다. Reco는 단순히 자동인코더의 재구성 출력을 반사실 이미지로 사용한다. 이는 데이터 매니폴드에 가까운 이미지를 보장하지만, 원본 이미지와의 차이가 충분히 커질 수 있다. LGD는 잠재벡터를 직접 최적화해 컴피턴시를 높이면서 잠재공간 거리(코사인 유사도)도 제한한다. 이 과정은 원본 이미지의 구조적 특성을 보존하면서도 신뢰도를 크게 향상시킨다. LNN은 캘리브레이션용 ID 데이터셋에서 원본 이미지와 가장 가까운 잠재벡터를 찾아 그 재구성을 사용한다. 최근접 이웃 접근법은 계산 비용이 낮고, 데이터 매니폴드 내에서 자연스러운 반사실 이미지를 제공한다.

실험은 달 표면 시뮬레이션 이미지와 독일 속도 제한 표지판 두 도메인에서 수행되었다. 각각 밝기, 대비, 채도, 노이즈, 픽셀화, 공간적 이상 등 여섯 가지 원인으로 인한 저신뢰도 샘플 600장을 생성하고, 제안된 다섯 방법으로 반사실 이미지를 만든다. 평가 지표는 성공률(고신뢰도 여부), LPIPS 기반 인지 손실, 특징·잠재 코사인 유사도, FID(현실성), 생성 속도 등 다섯 가지 속성을 포함한다. 결과는 Reco, LGD, LNN이 전반적으로 높은 성공률과 낮은 LPIPS·FID를 보이며, 특히 LGD와 LNN이 특징·잠재 유사도에서도 우수함을 보여준다.

마지막으로, 고신뢰도 반사실 이미지를 멀티모달 대형 언어 모델(예: GPT‑4V)에 함께 질의함으로써 모델이 저신뢰도의 원인을 정확히 서술할 수 있음을 실증하였다. 반사실 이미지가 없는 경우보다 설명 정확도가 크게 상승했으며, 이는 시각적 근거가 언어 모델의 추론을 강화한다는 중요한 시사점을 제공한다. 전반적으로 이 논문은 불확실성 설명을 위한 새로운 시각‑언어 협업 프레임워크를 제시하고, 잠재공간 기반 반사실 생성이 실용적이며 효율적임을 입증한다.