잊혀짐은 어디에나 존재한다

초록

본 논문은 학습 과정에서 새로운 데이터에 적응할 때 과거 지식이 사라지는 현상, 즉 ‘잊혀짐’을 예측 분포의 자기 일관성 결여로 정의하고, 이를 정량화하는 일반적인 측정법을 제시한다. 베이즈 추론이 잊혀짐을 방지한다는 이론적 결과와 함께, 분류·회귀·생성 모델·강화 학습 등 다양한 실험을 통해 딥러닝 전반에 걸친 잊혀짐 현상을 실증한다.

상세 분석

이 논문은 “잊혀짐”을 기존의 성능 저하 기반 정의와 달리, 학습자가 새로운 정보를 받지 않았음에도 예측 분포가 변하는 현상으로 재정의한다. 핵심은 예측 자기일관성(predictive self‑consistency) 개념이다. 학습자는 현재 상태 Zₜ 에서 미래 관측·출력 시퀀스에 대한 예측 분포 q(Hₜ₊₁:∞ | Zₜ, H₀:ₜ)를 유지한다. 만약 학습 단계(u)에서 업데이트가 이 예측 분포를 변화시킨다면, 이는 ‘잊혀짐’으로 간주된다.

논문은 다음과 같은 이론적 기여를 제공한다.

1. 학습·추론 프로세스의 일반화: 환경‑학습자 인터페이스를 (X, Y)로 정의하고, 히스토리 H, 환경 e, 학습자 (Z, f, u, u′)를 수학적으로 형식화한다. 이를 통해 지도학습, 강화학습, 생성 모델을 동일한 확률 과정으로 기술한다.
2. 베이즈 추론의 무잊혀짐 정리: 정확한 베이즈 업데이트는 예측 분포를 그대로 유지하므로(정리 5.1) 잊혀짐이 발생하지 않는다. 이는 파라미터 공간에서 일어나는 ‘파라미터 드리프트’를 확률적 관점에서 해소한다.
3. 잊혀짐 측정 지표(Definition 4.7): 예측 분포 변화량을 KL‑다이버전스 혹은 정보 손실(Iₜ = Dₖₗ