연속학습과 열린 집합 인식을 결합한 확률적 딥 모델

본 논문은 현대 딥러닝 모델이 미지의 입력에 대해 과신(over‑confidence)하는 문제와, 연속학습(continual learning) 환경에서 발생하는 재앙적 간섭(catastrophic forgetting) 문제를 동시에 해결하고자 한다. 이를 위해 저자들은 단일 딥 오토인코더 구조에 변분 추론(variational inference)과 극값 이론(extreme‑value theory, EVT)을 결합한 새로운 프레임워크를 제안한다. 1. **문제 정의 및 배경** - 기존 딥 네트워크는 폐쇄형(closed‑world) 가정 하에 학습되며, 새로운 클래스가 등장하거나 데이터 분포가 변할 때 과신된 예측을 내놓는다. - 연속학습에서는 작업(task)이 순차적으로 도착하고, 이전 작업의 데이터는 접근이 불가능해 파라미터가 새 데이터에 맞춰 업데이트되면서 이전 지식을 잊게 된다. - 현재 연구들은 주로 재앙적 간섭 완화에 초점을 맞추고, 열린 집합 인식(open‑set recognition) 즉, OOD(Out‑of‑Distribution) 탐지는 별도로 다루는 경우가 많다. 2. **제안 모델** - **구조**: 공유 인코더 qθ(z|x), 확률적 디코더 pφ(x|z), 선형 분류기 pξ(y|z) 로 구성된 변분 오토인코더(VAE) 기반 모델. 손실은 재구성 로그우도, 분류 로그우도, 그리고 β‑KL 정규화 항을 포함한다(식 1). - **잠재공간 클러스터링**: 라벨이 있는 데이터는 인코더를 통해 잠재공간에 매핑되고, 클래스별 평균 μk와 공분산이 형성된다. 이는 가우시안 혼합 모델과 유사하게 작동한다. - **EVT 기반 후방 경계**: 올바르게 분류된 샘플들의 잠재표현에 대해 거리 ‖z−μk‖를 계산하고, 이 거리들의 상위 tail에 Weibull 분포를 적합한다. Weibull의 파라미터는 최대우도법으로 추정되며, 사전에 정의된 신뢰구간(예: 95%)을 임계값 τk 로 설정한다. 3. **열린 집합 인식** - 테스트 시 입력 x가 인코더를 거쳐 z를 얻고, 해당 z가 모든 클래스 k에 대해 τk 이하이면 “known”으로 판단하고, 어느 하나라도 초과하면 “unknown”으로 라벨링한다. - 이는 소프트맥스 확률값에 의존하지 않으며, 잠재공간 자체의 확률밀도에 기반하므로 과신 문제를 근본적으로 완화한다. 4. **생성 재생(Generative Replay)과 재앙적 간섭 완화** - 기존 생성 재생 방식은 전체 잠재공간에서 무작위 샘플을 생성해 이전 작업의 데이터를 모방한다. 그러나 이 경우 OOD 샘플이 포함될 위험이 있다. - 제안 방법은 EVT 경계 안에 있는 z만 샘플링해 디코더를 통해 이미지 x′를 생성한다. 이렇게 하면 생성된 샘플이 기존 작업의 데이터 분포와 높은 일치도를 보이며, 재학습 시 기존 파라미터를 크게 변형시키지 않는다. - 실험 결과, 경계 기반 재생은 메모리 사용량을 줄이고, 재앙적 간섭을 기존 방법 대비 평균 3~5%p 감소시켰다. 5. **실험 설정 및 결과** - 데이터셋: CIFAR‑10, CIFAR‑100, SVHN, 그리고 고해상도 컬러 이미지(Imagenet‑subsets). - 평가 지표: OOD 탐지 AUROC, F1‑score, 연속학습 후 평균 정확도, 그리고 생성 샘플의 프리시전(precision). - 비교 대상: VGR, iCaRL, EWC, ODIN, OpenMax 등. - 주요 결과: * OOD 탐지 AUROC에서 기존 OpenMax 대비 3.2%p, ODIN 대비 4.5%p 향상. * 연속학습 정확도에서 VGR 대비 2.8%p, iCaRL 대비 3.5%p 상승. * 고해상도 이미지에서 자동 회귀 기반 디코더와 인트로스펙션 기법을 결합했을 때도 동일한 경향 유지. 6. **한계 및 향후 연구** - EVT 파라미터( tail size, confidence level )를 데이터셋마다 경험적으로 설정해야 하는 점. - 잠재공간 차원이 매우 높을 경우 Weibull 적합이 계산 비용이 크게 증가한다는 점. - 향후 베이지안 비모수 방법으로 tail 모델을 자동화하거나, 차원 축소 기법(PCA, t‑SNE)과 결합해 효율성을 높이는 연구가 필요하다. 7. **결론** - 변분 오토인코더와 EVT 기반 후방 경계화를 결합함으로써, 하나의 모델 안에서 연속학습의 기억 보존과 열린 집합 인식의 OOD 탐지를 동시에 달성한다. - 제안된 프레임워크는 기존 재앙적 간섭 완화 방법보다 더 적은 메모리와 계산량으로 높은 성능을 보이며, 실제 응용에서 새로운 클래스를 지속적으로 학습하면서도 안전하게 미지 데이터를 차단할 수 있는 실용적인 솔루션을 제공한다.