다양한 데이터에 맞춘 적응형 서브네트워크 라우팅

초록

본 논문은 기존 복권 티켓 가설(Lottery Ticket Hypothesis)이 전제하는 단일 전역 마스크 대신, 데이터의 이질성을 반영해 클래스·클러스터·환경별로 특화된 여러 서브네트워크(Adaptive Tickets)를 자동으로 찾아내는 적응형 프루닝 프레임워크 “Routing the Lottery(RTL)”를 제안한다. RTL은 동일한 초기 가중치를 공유하면서 각 데이터 서브셋에 맞는 이진 마스크를 독립적으로 학습하고, 이후 공동 재학습을 통해 파라미터 공유와 특화된 구조를 동시에 달성한다. CIFAR‑10/100, 이미지 내 영역별 INR, 그리고 잡음 환경의 음성 향상 실험에서, RTL은 단일 마스크 기반 IMP와 독립 모델 기반 다중 프루닝 대비 균형 정확도·리콜·PSNR·SI‑SNRi 등에서 일관된 우위를 보이며, 파라미터 수는 최대 10배까지 절감한다. 또한, 과도한 프루닝으로 인한 “서브네트워크 붕괴” 현상을 정의하고, 라벨 없이도 마스크 간 유사도를 측정해 과도 압축을 진단할 수 있는 “서브네트워크 유사도 점수”를 제시한다.

상세 분석

본 연구는 프루닝 분야에서 가장 핵심적인 가정, 즉 “모든 입력에 동일한 마스크가 적용된다”는 전제를 의문시한다. 데이터가 클래스·클러스터·환경 등으로 이질적인 구조를 가질 때, 동일 마스크는 서로 다른 특성을 충분히 표현하지 못해 성능 저하를 초래한다는 점을 논리적으로 제시하고, 이를 해결하기 위한 두 단계 접근법을 설계하였다. 첫 번째 단계는 ‘Adaptive Ticket Extraction’이다. 초기 무작위 가중치 θ₀를 공유하면서, K개의 데이터 서브셋 D₁…D_K에 대해 순차적으로 IMP와 유사한 반복 프루닝을 수행한다. 각 서브셋마다 별도의 마스크 m_k를 학습하고, 프루닝 후에는 가중치를 다시 θ₀로 리셋함으로써 마스크 간 독립성을 유지한다. 이 과정은 전체 마스크가 목표 희소도 s에 도달할 때까지 반복되며, 마스크 간 중복을 최소화하기 위해 ‘프루닝 팩터 p’를 조절한다. 두 번째 단계는 ‘Joint Retraining’이다. 여기서는 K개의 마스크를 고정한 채, 각 서브넷을 해당 서브셋 전용 미니배치와 교차적으로 학습한다. 중요한 점은 파라미터 업데이트 시 마스크 외부의 그라디언트를 0으로 마스킹함으로써, 서로 다른 서브넷이 동일 가중치 텐서 θ의 서로 다른 부분만을 수정하도록 강제한다. 이 설계는 (1) 파라미터 공유를 통한 메모리 효율, (2) 서브넷 간 간섭 최소화, (3) 각 서브넷이 자체 데이터 특성에 최적화되는 세 가지 장점을 동시에 제공한다. 실험에서는 CIFAR‑10에서 10개의 클래스마다 별도 서브넷을 할당했을 때, 동일 파라미터 수·희소도 조건에서 단일 마스크 IMP보다 평균 3~5% 높은 균형 정확도를 기록하였다. CIFAR‑100에서는 8개의 의미 클러스터에 대해 서브넷을 할당했으며, 클러스터 경계가 모호한 상황에서도 다중 마스크가 단일 마스크 대비 안정적인 성능을 유지함을 확인했다. 이미지 내부 영역별 INR 실험에서는 각 영역(예: 하늘, 건물, 사람)에 특화된 서브넷이 PSNR을 평균 1.2dB 향상시켰으며, 이는 기존 클래스 임베딩 방식보다 월등했다. 마지막으로 음성 향상 작업에서는 환경(실내·실외·노이즈 레벨)별 서브넷이 SI‑SNRi를 0.4dB 이상 개선하였다. 또한, ‘서브네트워크 붕괴’ 현상을 정의하고, 마스크 간 코사인 유사도를 기반으로 한 서브네트워크 유사도 점수를 도입해, 라벨이 없는 상황에서도 과도 프루닝을 사전에 탐지할 수 있음을 보였다. 전체적으로 RTL은 프루닝을 정적 압축 기법이 아니라, 데이터 구조에 맞춰 동적으로 모델 아키텍처를 재구성하는 메커니즘으로 재정의한다는 점에서 학문적·실용적 의의를 가진다.