예측 전용 모델에 설명 능력 전이: 추가 학습 없이 시각적 설명 부여

초록

본 논문은 Vision Transformer 기반의 자체 설명 모델에서 학습된 시각적 설명 능력을, 별도 학습 없이 예측 전용 모델에 전달하는 방법을 제안한다. 설명 벡터를 ‘태스크 벡터’로 정의하고, 소스 도메인에서 얻은 설명 벡터와 목표 도메인의 분류 벡터를 산술 연산해 목표 모델에 설명 기능을 삽입한다. 56개의 도메인 쌍 실험에서 대부분의 경우 분류 정확도는 유지하면서 설명 품질이 크게 향상됨을 보였다.

상세 분석

이 연구는 두 가지 핵심 아이디어를 결합한다. 첫째, 기존 Vision‑Transformer 기반 이미지 분류기(VLM, 예: CLIP)를 확장해 패치‑레벨 기여도(시각적 설명)를 동시에 출력하도록 설계한 ‘자체 설명 모델(self‑explaining model)’을 도입한다. 여기서 텍스트 임베딩으로 구성된 클래스 헤드는 고정하고, 오직 백본 파라미터(θ)만을 학습한다는 점이 특징이다. 둘째, ‘태스크 산술(task arithmetic)’을 활용해 설명 능력을 벡터 형태(설명 벡터 τ★)로 추출한다. 소스 도메인에서 (①) 순수 분류용 파라미터 θS_ft와 (②) 설명까지 포함한 파라미터 θS_ft★를 학습하고, 두 파라미터 차이 τS★=θS_ft★−θS_ft를 설명 벡터로 정의한다. 목표 도메인에서는 기존에 학습된 순수 분류 파라미터 θT_ft만 존재한다. 논문은 아날로지 τS★≈τT★를 가정하고, τT★를 τS★와 동일하게 설정함으로써

θ̃T_ft★ = θ_base + λ1·τT_ft + λ2·τS★

를 계산한다. 여기서 λ1, λ2는 각각 분류 성능과 설명 강도를 조절하는 스케일링 계수이다.

실험에서는 ImageNet‑1k에 설명 라벨을 추가한 ‘ImageNet+X’를 구축해 τS★를 학습하고, 이를 10개의 서로 다른 목표 데이터셋에 적용했다. 56개의 도메인 쌍 중, 도메인 유사도가 높을수록(예: 자연 이미지 ↔ 동물 이미지) 설명 품질 향상이 크게 나타났으며, 평균적으로 Grad‑CAM이나 SHAP과 같은 사후 설명 기법에 근접한 품질을 단일 포워드 패스로 제공했다. 반면, 의료 영상 ↔ 일상 사진처럼 시각적 특성이 크게 다른 경우 설명 전이가 제한적이었다.

이 접근법의 장점은 (1) 추가 학습이 필요 없으므로 기존 모델을 그대로 활용할 수 있다, (2) 설명을 생성하는 비용이 한 번의 포워드 패스로 감소한다, (3) 텍스트‑이미지 사전학습 모델을 백본으로 사용함으로써 제로샷 분류 능력을 유지한다는 점이다. 그러나 한계도 존재한다. 설명 벡터가 고정된 텍스트 헤드에 의존하기 때문에, 새로운 클래스 네임이 기존 텍스트 임베딩과 크게 다를 경우 성능 저하가 발생한다. 또한 τS★와 τT★가 동일하다는 가정이 도메인 간 시각적 차이가 클 때 깨질 수 있다. 스케일링 파라미터 λ1, λ2의 선택이 민감하며, 자동 튜닝 방법이 제시되지 않은 점도 실용성에 영향을 준다. 마지막으로, 설명 라벨을 확보하기 위한 비용이 소스 도메인에 한 번만 필요하지만, 고품질 라벨을 만들기 위한 인간 주석 작업이 여전히 필요하다.