경험 재생에서 깊은 망각과 얕은 망각의 비대칭: 작은 버퍼는 특징 공간을 유지하지만 분류 경계는 왜곡한다

초록

본 논문은 연속 학습에서 경험 재생(Experience Replay) 버퍼 크기가 깊은 망각(특징 공간)과 얕은 망각(분류기 수준) 사이에 불균형을 초래한다는 점을 규명한다. 작은 버퍼라도 특징 기하학을 유지해 선형 분리성을 보존하지만, 충분히 큰 버퍼가 아니면 분류 경계가 실제 데이터 분포와 어긋나 얕은 망각이 발생한다. 이를 설명하기 위해 Neural Collapse 이론을 순차적 상황에 확장하고, 비선형 드리프트와 “강한 붕괴(strong collapse)” 현상을 수학적으로 분석한다. 결과적으로 버퍼 용량을 크게 늘리는 대신, 작은 버퍼가 만든 통계적 왜곡을 교정하면 최소한의 재생으로도 견고한 연속 학습이 가능함을 제시한다.

상세 분석

이 연구는 연속 학습(Continual Learning, CL)에서 흔히 관찰되는 ‘깊은 망각’과 ‘얕은 망각’이라는 두 가지 현상을 명확히 구분한다. 깊은 망각은 특징 공간(feature space) 자체가 이전 과제의 선형 분리성을 상실하는 것을 의미하고, 얕은 망각은 특징은 여전히 구분 가능하지만 최종 분류기(classifier)가 실제 클래스 경계와 일치하지 않아 예측이 틀리는 상황을 말한다. 저자들은 경험 재생(Experience Replay, ER) 버퍼가 이 두 현상에 미치는 영향을 실험과 이론을 통해 분석한다.

첫 번째 핵심 발견은 “버퍼 용량이 최소한 존재하면, 어떠한 비제로 재생 비율이라도 시간이 충분히 흐르면 특징 공간은 선형적으로 구분 가능한 상태를 유지한다”는 것이다. 이는 Neural Collapse 현상의 연속 버전으로 설명된다. Neural Collapse는 학습이 수렴할 때 클래스 평균이 서로 균등하게 배치되고, 클래스 내 공분산이 동일한 저차원 서브스페이스에 수축되는 현상이다. 저자들은 이를 순차 학습 상황에 적용해, 매 단계마다 소량의 재생 샘플이 삽입되면 전체 특징 분포가 ‘강제적인’ 붕괴를 겪으며 OOD(Out‑of‑Distribution) 방향으로의 기하학적 드리프트를 억제한다는 수학적 증명을 제공한다.

하지만 같은 작은 버퍼가 오히려 “강한 붕괴(strong collapse)”를 야기한다는 역설적인 현상도 발견한다. 버퍼가 작을수록 저장된 샘플만을 기준으로 클래스 평균이 과도하게 팽창하고, 공분산 행렬이 저랭크(rank‑deficient)해진다. 결과적으로 분류기의 파라미터는 저장된 샘플을 완벽히 구분하는 ‘버퍼‑최적(boundary‑optimal)’ 경계를 학습하지만, 이는 전체 데이터 분포의 진짜 경계와 크게 어긋난다. 시각화(PCA) 결과에서 보듯, 두 클래스는 여전히 특징 공간에서 구분 가능하지만, 결정 경계는 다수의 “버퍼‑전용” 직선들 사이에서 불안정하게 움직이며 얕은 망각을 일으킨다.

저자들은 이 현상을 OOD 탐지와 연결시켜, 작은 버퍼가 만든 통계적 편향을 ‘OOD 신호’로 해석한다. 즉, 재생 샘플이 전체 데이터의 대표성을 충분히 반영하지 못하면, 학습된 분류기는 실제 데이터와는 다른 가상의 서브스페이스에 최적화된다. 이를 해결하기 위한 제안으로는 (1) 버퍼 샘플에 대한 클래스 평균 보정, (2) 공분산의 저랭크 문제를 완화하는 정규화 기법, (3) 재생 비율을 동적으로 조절해 버퍼‑최적 경계와 진짜 경계 사이의 격차를 최소화하는 방법 등을 제시한다.

결론적으로, 기존 연구가 “버퍼 크기를 크게 하면 연속 학습이 잘 된다”는 경험법칙에 의존해 왔던 것을 비판하고, 작은 버퍼라도 적절한 통계적 보정이 가해지면 깊은 망각을 방지하면서 얕은 망각도 최소화할 수 있음을 증명한다. 이는 메모리 제약이 심한 엣지 디바이스나 모바일 환경에서 큰 의미를 가진다.