연속학습의 구조를 찾아서: Douglas‑Rachford Splitting으로 플라스틱성‑안정성 협상

초록

연속학습에서 새로운 과제 학습과 과거 지식 보존 사이의 갈등을 직접 합산하는 대신, 저자는 두 목표를 각각의 근접 연산자(proximal operator)로 분리하고 Douglas‑Rachford Splitting(DRS) 알고리즘으로 교섭하도록 재구성한다. 플라스틱성(새 과제 적합)과 안정성(이전 지식 정렬)을 독립적으로 최적화한 뒤, 중간 단계에서 조화롭게 결합함으로써 메모리 재현이나 파라미터 고정 같은 부가 모듈 없이도 효율적인 연속학습을 구현한다.

상세 분석

본 논문은 연속학습(Continual Learning, CL)의 핵심 딜레마인 플라스틱성‑안정성 트레이드오프를 수학적으로 재정의한다. 기존 방법들은 손실 함수 L_CL = L_new + R 형태로 두 목적을 단순히 가중합하고, SGD와 같은 일반 최적화기로 동시에 최소화한다. 이 과정에서 발생하는 그래디언트 충돌은 메모리 리플레이, 파라미터 고정, 혹은 복잡한 정규화 기법으로 완화하려 하지만, 근본적인 최적화 구조 자체가 충돌을 내포하고 있다.

저자는 이를 “두 함수 f와 g의 합을 최소화하는 문제”로 보고, 연산자 분할(operator splitting) 기법 중 하나인 Douglas‑Rachford Splitting(DRS)을 적용한다. 여기서 f는 새로운 과제에 대한 로그우도(플라스틱성)이며, g는 베이지안 사전과의 Rényi divergence(안정성)이다. DRS는 다음 세 단계로 이루어진다:

1. 플라스틱성 근접 단계(prox_f) – 현재 파라미터 uᵢ에서 f에 대한 근접 연산자를 풀어 새로운 파라미터 xᵢ를 얻는다. 비볼록성 때문에 Adam 기반의 근사 업데이트를 사용한다.
2. 안정성 반사 단계(prox_g) – 2xᵢ‑uᵢ를 반사시킨 뒤 g에 대한 근접 연산자를 적용해 인코더 ϕ만을 업데이트한다. 여기서 Rényi divergence는 KL divergence와 달리 “zero‑avoiding” 특성을 가져, 플라스틱성 단계가 제시한 파라미터가 사전과 크게 벗어나더라도 무한 페널티 없이 적절히 조정될 수 있다.
3. 완화된 업데이트 – xᵢ와 yᵢ(=prox_g 결과)를 선형 보간해 새로운 보조 변수 uᵢ₊₁을 만든다. λ와 γ는 각각 보간 비율과 근접 연산자의 강도를 조절한다.

이 순환을 I번 반복하면, 최종 파라미터 (ϕ_t, θ_t) = xᴵ가 얻어지고, 이후 q_ϕ_t(z|D_t) 를 다음 과제의 사전으로 전달한다(Posterior‑to‑Prior propagation). 논문은 두 가지 주요 정리를 제공한다. Proposition 3.1은 Rényi divergence가 플라스틱성 제안이 사전 지원 영역을 벗어날 때도 유한한 페널티를 유지해 의미 있는 중간 해를 찾게 함을 증명한다. Proposition 3.2는 DRS 반복이 목표 함수 F(ω)=f(ω)+g(ω)의 정지점에 수렴함을 보장한다.

실험적으로는 EMNIST와 같은 연속학습 벤치마크에서 기존 EWC, VCL, Replay 기반 방법들을 능가한다. 특히 “플라스틱성 손실 감소”와 “잊혀짐 방지” 두 축을 동시에 최적화함으로써, 학습 초기에 빠른 적응을 보이면서도 장기적인 정확도 유지가 가능하다. 메모리 사용량이 거의 없고, 별도의 파라미터 고정 메커니즘이 필요 없으며, 근접 연산자만으로도 충분히 안정적인 학습 다이내믹스를 제공한다는 점이 가장 큰 장점이다.

요약하면, 이 논문은 연속학습을 “경쟁이 아닌 협상” 문제로 전환하고, DRS라는 수학적으로 견고한 프레임워크를 통해 플라스틱성과 안정성을 동시에 만족시키는 새로운 최적화 패러다임을 제시한다.