LIMEVis: 다중 이미지와 인터랙티브 분석을 위한 시각화 도구

초록

본 논문은 LIME 기반 XAI 분석을 확장하여, 여러 이미지를 동시에 시각화하고 사용자가 직접 슈퍼픽셀을 선택·조작할 수 있는 인터랙티브 시스템 LIMEVis를 제안한다. 이를 통해 모델이 어떤 특징에 주목하는지 전체적인 패턴을 파악하고, 개별 슈퍼픽셀의 영향력을 실시간으로 검증한다.

상세 분석

LIMEVis는 기존 LIME이 단일 이미지에 국한되고 파라미터 변동 시 결과 해석이 어려운 문제점을 두 가지 차원에서 보완한다. 첫째, 동일 카테고리의 100개 이미지를 한 번에 로드하고, 사용자가 설정한 세그멘테이션 알고리즘·positive‑only·num‑features·hide‑rest 등 파라미터를 일괄 적용해 10×10 격자 형태의 Overview 화면에 LIME 결과를 동시에 표시한다. 이미지 테두리 색(파란‑정답, 빨간‑오답)으로 모델의 정확도를 직관적으로 파악할 수 있다. 둘째, Summary View에서는 VGG16 기반 특징 추출 후 PacMAP을 이용해 2‑D 임베딩을 수행, 클러스터링된 점들을 브러시로 선택하면 해당 이미지들이 Overview에 강조된다. 이는 “공통 특징”을 시각적으로 탐색하는 데 유용하다.

Detail View는 선택된 이미지에 대해 Original, LIME, Superpixel 세 패널을 제공한다. Superpixel 패널에서 사용자는 개별 슈퍼픽셀을 클릭해 마스크(검은색)·복원(색상) 전환이 가능하고, 이때마다 하단 바 차트가 실시간으로 VGG16의 예측 확률을 업데이트한다. 즉, 특정 영역을 제거했을 때 모델이 어떤 클래스로 전이되는지를 즉시 확인할 수 있다. 실험에서는 STL‑10 데이터셋의 “dog” 카테고리 100장을 분석했으며, 얼굴·꼬리와 같은 공통 슈퍼픽셀이 높은 양성 영향을 미치는 것을 확인했다. 또한 오분류된 이미지에서 고양이로 잘못 예측된 원인을 해당 슈퍼픽셀(예: 배경) 제거를 통해 교정, 정확도가 0.18→0.90으로 크게 상승함을 보여준다.

기술적으로는 VGG16을 사전 학습된 이미지넷 모델로 활용해 4096‑차원 피처를 추출하고, PacMAP(비선형 차원 축소)으로 2‑D 시각화 공간을 만든 점이 주목할 만하다. 이는 기존 LIME이 제공하는 단일 이미지의 히트맵을 넘어, 다중 이미지 간 특징 유사성을 정량·정성적으로 탐색하게 한다. 인터랙션 설계는 색상·테두리·바 차트 등 다중 시각적 피드백을 결합해 사용자가 직관적으로 원인·결과 관계를 추론하도록 돕는다.

한계점으로는 현재 VGG16과 STL‑10에 국한된 실험, 슈퍼픽셀 선택이 수동적이라는 점, 그리고 대규모 데이터셋에서 100장 제한이 확장성에 제약을 줄 수 있다는 점을 들 수 있다. 향후 작업에서는 모델 재학습 파이프라인과 연계해 사용자가 직접 수정한 슈퍼픽셀 정보를 피드백으로 활용, 예측 성능을 자동으로 개선하는 모듈을 추가할 계획이다.