깊은 행렬 분해에서 최소점의 날카로움과 스펙트럼 균형

초록

본 논문은 깊은 행렬 분해(또는 깊은 선형 신경망)에서 제곱 오차 손실의 해시안 최대 고유값, 즉 샤프니스(날카로움)의 정확한 폐쇄형식을 제시한다. 저자는 모든 전역 최소점에 대해 이 고유값을 구하고, 층별 좌·우 중간 인자들의 스펙트럼 노름 곱이 층 전체에 걸쳐 일정할 때 손실 지형이 평탄(Flat)함을 충분조건으로, 깊이‑2 행렬 분해와 과잉 파라미터화된 스칼라 분해에서는 필요충분조건임을 증명한다. 또한, 평탄 최소점은 스펙트럼 노름이 균형 잡힌 반면, 프루베니우스 노름 균형은 반드시 보장되지 않음을 밝힌다. 마지막으로, 제시된 식을 이용해 그라디언트 기반 학습 시 발생하는 “탈출 현상(escape phenomenon)”을 실험적으로 관찰한다.

상세 분석

이 논문은 깊은 행렬 분해 문제를 다음과 같이 정의한다. 목표는 주어진 행렬 M∈ℝ^{d_L×d_0}를 L개의 인자 W_1,…,W_L의 곱으로 정확히 재구성하는 것이며, 손실 함수는 ‖M−W_L⋯W_1‖_F^2이다. 기존 연구에서는 깊은 선형 네트워크의 평탄 최소점(즉, 해시안이 저차원인 경우)에 대해서만 해시안 최대 고유값 λ_max에 대한 폐쇄형식을 얻었고, 일반 최소점에 대해서는 “폐쇄형식이 존재하지 않는다”는 주장이 있었다. 저자는 이 가정을 반박하고, 전역 최소점 전부에 대해 λ_max을 정확히 계산하는 식을 제시한다(정리 3.1). 핵심 아이디어는 방향성 2차 미분을 행렬 미분법과 가테오 미분(Gâteaux derivative)으로 전개하고, 해시안 텐서를 행렬 형태의 라디컬 쿼시언(Rayleigh quotient)으로 변환하는 것이다. 이를 통해 λ_max은 각 층의 스펙트럼 노름 σ_max(W_i)와 그들의 곱의 구조에만 의존한다는 사실을 밝혀낸다.

특히, 깊이‑2 행렬 분해와 과잉 파라미터화된 스칼라 분해(각 층이 1×1 스칼라인 경우)에서는 λ_max이
 λ_max = 2·max_i σ_max(W_i)·σ_max(W_{i+1})
와 같은 간단한 형태로 축소된다(정리 3.2, 3.3). 이 식을 이용해 “스펙트럼 노름 곱이 모든 층에서 동일”한 경우 λ_max이 최소값(즉, 0)에 가까워져 손실 지형이 평탄함을 보인다. 반대로, 스펙트럼 노름이 불균형하면 λ_max이 크게 증가해 급격한 곡률을 형성한다. 이러한 결과는 평탄 최소점이 반드시 프루베니우스 노름 균형을 만족하지 않을 수 있음을 의미한다. 즉, 프루베니우스 노름이 균형 잡힌 최소점과 스펙트럼 노름이 균형 잡힌 최소점은 서로 다른 집합이며, 전자는 λ_max이 작을 필요가 없다는 점을 강조한다.

논문은 또한 동적 안정성(dynamical stability) 관점에서 λ_max의 역할을 재조명한다. 정의 1.1에 따라, GD의 학습률 η에 대해 λ_max > 2/η이면 해당 최소점은 “동적으로 불안정”하므로, 작은 perturbation이 점차 확대되어 “탈출 현상”을 일으킨다. 저자는 이 현상을 깊은 행렬 분해 설정에서 실험적으로 재현했으며, 학습 초기 단계에서 λ_max이 급격히 상승하고, 이후 학습률이 조정되면서 다시 감소하는 패턴을 관찰한다. 이는 기존에 단일 스칼라 또는 2‑layer 네트워크에서만 보고된 현상이었으나, 여기서는 L≥3인 일반적인 깊은 구조에서도 동일하게 나타난다.

마지막으로, 논문은 기존 연구와의 관계를 명확히 한다. Mulayoff & Michaeli(2020)는 평탄 최소점에 대해서만 λ_max의 폐쇄형식을 제공했으며, 일반 최소점에 대한 식은 존재하지 않는다고 주장했지만, 본 논문은 그 주장을 반박한다. 또한, Ghosh et al.(2025)와 Ding et al.(2024)의 프루베니우스 노름 균형 결과와 비교해, 스펙트럼 노름 균형이 실제 샤프니스와 더 직접적인 연관이 있음을 증명한다. 전체적으로 이 연구는 깊은 선형 모델의 손실 지형을 정량적으로 이해하는 데 중요한 이론적 도구를 제공하며, 학습률 선택, 일반화 성능, 그리고 최적화 역학을 설계하는 데 실용적인 통찰을 제공한다.