단순 이차함수에서 드러난 Muon 옵티마이저의 새로운 이해

초록

본 논문은 Muon 옵티마이저가 강하게 볼록한 단순 이차함수에서도 기존 이론이 설명하지 못하는 현상을 보인다는 점을 실험·분석한다. 정확한 폴라 단계와 근사 폴라 단계가 각각 이산 격자에 갇히는 현상, 수렴 속도에 미치는 스펙트럼 구조의 영향, 그리고 1‑스텝 우월성이 전체 수렴을 보장하지 못한다는 점을 강조한다.

상세 분석

논문은 Muon이 “Momentum Orthogonalized by Newton–Schulz”(Muon)라는 이름으로, 기존 SGD‑Nesterov에 비해 모멘텀 행렬을 폴라 팩터(또는 행렬 부호)로 근사 정규화한 뒤 업데이트한다는 점에 주목한다. 이 과정에서 Newton–Schulz 반복을 몇 차례만 수행해 근사 폴라를 얻으며, 이는 실제 구현에서 비소멸(step size가 고정)인 학습률과 결합된다. 저자는 가장 기본적인 강볼록 이차함수 L(W)=½‖W‖_F²에 대해 정확한 폴라와 고정 학습률을 적용하면, 각 특이값이 독립적인 1‑차원 sign‑GD 동역학을 따른다. 이 동역학은 초기값 s₀에 대해 격자 s₀+αℤ 위를 이동하며, 0을 정확히 통과하지 못하면 2‑주기 진동에 머무른다. 따라서 일반적인 초기화에서는 손실이 임의로 작은 영역에 도달하지 못하고 ‘그리드 제한(grid confinement)’ 현상이 발생한다. 이는 기존의 “스텝당 감소량” 분석이 전역 수렴을 보장하지 못함을 명확히 보여준다.

다음으로 근사 폴라 단계에 대한 실험을 수행한다. 저자는 폴라 단계에 작은 확률적 잡음을 추가하거나 Newton–Schulz 반복 횟수를 조절함으로써 근사 오차를 인위적으로 만들었다. 흥미롭게도, 일정 수준의 잡음은 격자 제한을 깨뜨려 특이값이 0에 더 가까워지게 만들고, 전체 반복 횟수를 감소시켰다. 잡음 크기가 너무 작거나 너무 크면 오히려 수렴이 느려지므로, “중간 정도의 근사 오차가 최적”이라는 비선형 관계가 관찰된다. 이는 근사 오차가 단순히 비용‑정확도 트레이드오프가 아니라, 알고리즘의 이산 시간 역학을 구조적으로 바꾸는 역할을 할 수 있음을 시사한다.

또한, 저자는 조건수 κ만으로 GD와 Muon의 성능을 비교하는 기존 가설을 비판한다. 동일한 κ를 갖는 여러 스펙트럼 형태(예: 급격히 감소하는 특이값, 평탄한 스펙트럼 등)를 실험했을 때, Muon이 GD보다 빠르게 수렴하는 경우와 반대인 경우가 교차한다. 이는 “조건수에 무관하게 Muon이 우월하다”는 주장보다, 스펙트럼의 세부 형태—특히 큰 특이값과 작은 특이값 사이의 간격—가 실제 상수에 큰 영향을 미친다는 결론을 낳는다. 따라서 Muon의 실용적 성공을 설명하려면, 조건수 외에 스펙트럼 쉐이프와 근사 폴라 오차가 어떻게 상호작용하는지를 명시적으로 모델링해야 한다.

마지막으로, 1‑스텝 우월성을 전역 수렴 지표로 삼는 접근법을 검증한다. 저자는 각 단계에서 “그라디언트 스텝 vs. 폴라 스텝 중 손실 감소가 큰 쪽을 선택”하는 그리디 정책을 설계했지만, 전체 경로에서는 GD가 일관되게 더 적은 반복으로 목표 손실에 도달했다. 이는 단일 스텝의 이론적 개선이 전체 최적화 과정에서 반드시 이득으로 이어지지 않으며, 전체 알고리즘 설계 시 장기적인 동역학을 고려해야 함을 보여준다.

요약하면, 논문은 (i) 정확한 폴라와 고정 학습률이 격자 제한을 초래해 강볼록 이차함수에서도 수렴을 방해하고, (ii) 근사 폴라 오차가 적절히 조절될 때 오히려 수렴을 촉진할 수 있으며, (iii) 스펙트럼 구조와 근사 오차가 결합된 상수가 실제 성능을 좌우한다는 점을 실증한다. 이러한 발견은 기존의 “지역 2차 근사 + 최악‑사례 보장” 프레임워크를 넘어, Muon을 이해하기 위한 새로운 이산‑시간, 스펙트럼‑민감 이론이 필요함을 강조한다.