작업별 배치 정규화와 OOD 탐지를 활용한 클래스 증분 학습

초록

본 논문은 작업 식별자(task‑ID)가 없는 클래스 증분 학습(CIL) 환경에서, 작업별 배치 정규화(BN)와 “unknown” 클래스를 이용한 OOD(Out‑of‑Distribution) 탐지 기법으로 task‑ID를 추정한다. 작업마다 독립적인 BN 레이어와 분류 헤드를 추가해 특성 분포를 조정하고, 다른 작업의 샘플을 “unknown” 클래스로 매핑해 각 헤드가 OOD를 감지하도록 학습한다. 추론 시 가장 낮은 “unknown” 확률을 보이는 헤드를 선택해 task‑ID를 결정한다. 파라미터 증가가 최소화된 동시에 플라스틱성과 스테이빌리티를 균형 있게 유지하며, 의료·자연 이미지 4개 데이터셋에서 최첨단 성능을 달성한다.

상세 분석

이 연구는 증분 학습에서 가장 난제인 ‘플라스틱성 vs. 스테이빌리티’ 트레이드오프를 새로운 관점으로 접근한다. 기존 TIL(Task Incremental Learning) 방식은 작업 ID가 주어질 때마다 별도의 분류 헤드를 사용해 성능 저하를 방지했지만, CIL에서는 이 정보를 얻을 수 없어 직접적인 적용이 어려웠다. 논문은 이를 해결하기 위해 두 가지 핵심 메커니즘을 도입한다. 첫째, 작업별 BN 레이어를 추가한다. BN은 평균·분산을 정규화함으로써 특성 분포를 크게 변화시킬 수 있는데, 작업마다 독립적인 파라미터(γ, β, 이동 평균·분산)를 학습함으로써 각 작업에 최적화된 특성 스케일링을 제공한다. 이는 기존의 전체 네트워크 파라미터를 재조정하는 방식보다 파라미터 비용이 현저히 낮으며, 기존 컨볼루션 가중치에 거의 영향을 주지 않아 스테이빌리티를 유지한다. 둘째, 각 작업별 분류 헤드에 “unknown” 클래스를 삽입한다. 학습 단계에서 현재 작업이 아닌 다른 작업의 샘플을 모두 이 “unknown” 클래스로 라벨링함으로써, 헤드가 OOD 샘플을 구분하도록 강제한다. 추론 시, 각 헤드가 출력하는 “unknown” 클래스 확률을 비교해 가장 낮은 값을 가진 헤드를 선택하면 해당 작업에 가장 적합한 BN·헤드 조합을 자동으로 선택할 수 있다. 이는 별도의 task‑ID 예측 네트워크를 구축할 필요 없이 OOD 탐지 자체를 task‑ID 예측 메커니즘으로 활용한다는 점에서 효율적이다.

파라미터 측면에서, 작업당 추가되는 BN 파라미터는 보통 수천 개에 불과해 전체 모델(수백만 파라미터) 대비 미미하다. 또한, 분류 헤드 역시 클래스 수에 비례하는 선형 계층이므로, 작업이 늘어나도 메모리 사용량이 급격히 증가하지 않는다. 실험에서는 두 개의 의료 이미지 데이터셋(예: ChestX‑Ray, ISIC)과 두 개의 자연 이미지 데이터셋(CIFAR‑100, ImageNet‑Subset)에서 기존 SOTA 방법들(Replay 기반, Distillation 기반, Expansion 기반 등)을 능가하는 정확도를 기록했다. 특히, 메모리 제한이 심한 상황에서도 높은 플라스틱성을 유지하면서 오래된 작업의 성능 저하를 최소화했다.

한계점으로는 “unknown” 클래스가 실제 OOD 샘플과 혼동될 경우 잘못된 task‑ID 선택이 발생할 수 있다는 점이다. 또한, 작업 수가 매우 많아질 경우 각 작업마다 BN·헤드를 유지하는 것이 결국 파라미터와 연산량을 누적시킬 위험이 있다. 향후 연구에서는 BN 파라미터를 공유하거나 메타‑학습을 통해 빠르게 적응시키는 방안, 그리고 OOD 탐지 신뢰도를 강화하기 위한 캘리브레이션 기법을 탐색할 필요가 있다. 전반적으로, 작업별 BN과 OOD 기반 task‑ID 추정을 결합한 접근법은 CIL 분야에 새로운 패러다임을 제시하며, 파라미터 효율성과 성능 모두에서 실용적인 장점을 제공한다.