노이즈 라벨 학습을 위한 잡음 보상 샤프니스 인식 최소화

초록

본 논문은 라벨 노이즈가 손실 지형의 샤프니스와 일반화에 미치는 영향을 PAC‑베이즈 이론으로 분석하고, 기존 SAM이 노이즈 환경에서 비효율적인 이유를 밝혀낸다. 이를 바탕으로 노이즈에 의해 발생한 파라미터 편향 Δw를 보정하는 잡음 보상 샤프니스 인식 최소화(NCSAM)를 제안한다. NCSAM은 SAM의 파라미터 교란 ϵ에 Δw를 반영한 보정 교란 ϵ̂=ϵ−Δw를 적용해, 노이즈가 만든 편향을 상쇄하고 평탄한 최소점을 탐색한다. CIFAR‑10/100, Clothing1M 등 다양한 데이터셋에서 40 %~80 % 대칭·비대칭 노이즈 상황을 실험했으며, 기존 SAM·SGD·라벨 정정 기반 방법들을 모두 능가하는 정확도 향상을 입증한다.

상세 분석

논문은 먼저 라벨 노이즈가 존재할 때 손실 함수의 그래디언트가 깨끗한 라벨에 비해 편향 g_noise를 포함한다는 점을 수식 (3)‑(4) 로 명시한다. 이 편향은 파라미터 업데이트 시 Δ\hat W=−η g_noise 라는 형태로 모델을 노이즈에 민감한 영역으로 이동시킨다. 저자는 PAC‑Bayes 프레임워크를 차용해, 깨끗한 최적점 w와 노이즈에 의해 이동된 최적점 w+Δw 사이의 KL 발산이 일반화 상한을 크게 만든다고 (8)‑(12) 식을 통해 증명한다. 여기서 SAM은 파라미터 교란 ϵ∼N(0,β²I)를 도입해 손실의 최악의 경우를 최소화하는데, 이 교란이 Δw와 단순히 덧셈 관계에 있기 때문에 (12) 식에서 보듯이 노이즈가 큰 경우 ϵ가 오히려 편향을 증폭시켜 일반화가 악화된다. 따라서 SAM을 그대로 적용하면 “샤프니스 탐색”이 아니라 “노이즈 편향 확대”가 된다.

이론적 통찰을 바탕으로 저자는 두 가지 핵심 설계를 제안한다. 첫째, 미니배치 내에서 g_noise를 추정해 Δŵ를 구한다. 이는 현재 미니배치의 손실을 깨끗한 라벨과 노이즈 라벨로 각각 계산한 후 차이를 이용해 근사한다. 둘째, SAM의 교란을 ϵ̂=ϵ−Δŵ 로 보정한다. 이렇게 하면 파라미터가 실제로는 w+Δw+ϵ̂≈w+ϵ 로 이동하게 되어, 노이즈에 의해 발생한 편향을 상쇄하고 원래 SAM이 목표로 하는 평탄한 최소점 탐색 효과를 복원한다. 알고리즘은 기존 SAM과 동일한 두 단계(최대 교란 탐색 → 파라미터 업데이트)만을 유지하면서, 교란 계산 단계에 Δŵ를 빼는 간단한 연산을 추가한다.

실험에서는 CIFAR‑10/100에 40 %~80 % 대칭 라벨 노이즈와 비대칭 노이즈, 그리고 대규모 실세계 노이즈 데이터인 Clothing1M을 사용했다. ResNet‑18/34, WideResNet‑28‑10 등 다양한 아키텍처에 NCSAM을 적용했으며, 모든 설정에서 기존 SAM보다 1 %~3 % 높은 최종 정확도를 기록했다. 특히 고노이즈 비율(80 %)에서는 SGD가 68 % 수준에 머무는 반면 NCSAM은 74 %를 달성해 견고함을 입증했다. 또한, 학습 곡선을 보면 NCSAM이 초기 과적합을 억제하고 더 오래 안정된 평탄 영역에 머무르는 것을 확인할 수 있다.

결과적으로 논문은 라벨 노이즈와 샤프니스 사이의 수학적 연결 고리를 최초로 제시하고, 이를 보정하는 NCSAM이라는 실용적 최적화 기법을 도입함으로써 라벨 정정 없이도 강건한 일반화를 달성할 수 있음을 증명한다.