PL 조건이 그래디언트 하강 상승 동역학 수렴을 보장하지 않는다

초록

저자들은 양변 PL(Polyak‑Lojasiewicz) 조건을 만족하는 함수를 설계하고, 해당 함수에 대해 그래디언트 하강‑상승(Gradient Descent‑Ascent) 연속 흐름을 적용하면 수렴하지 않고 고정점 주위에서 순환하는 궤적이 나타남을 보인다. 이는 PL 조건만으로는 최소‑극대 문제의 동역학적 수렴을 보장할 수 없음을 시사한다.

상세 분석

본 논문은 최근 최소‑극대 최적화, 특히 GAN 학습과 같은 비협조적 게임 이론에서 널리 사용되는 Polyak‑Lojasiewicz(PL) 조건의 한계를 명확히 제시한다. 기존 연구에서는 PL 조건이 손실 함수가 비볼록이더라도 전역적인 선형 수렴을 보장한다는 점에 주목했으며, 이를 두 변수(플레이어) 간의 교차 최적화에 그대로 적용하려는 시도가 있었다. 그러나 저자들은 “양변 PL 조건(two‑sided PL)”이라 부르는, 각각의 변수에 대해 독립적으로 PL 상수 α>0을 만족하는 강한 가정을 도입한다. 이 조건 하에서는 각 변수의 그래디언트가 0이 되는 점에서 함수값과 최적값 사이에 ½α‖∇f‖² 이상의 차이가 존재한다는 의미이다.

그럼에도 불구하고, 논문은 이러한 강한 가정에도 불구하고 Gradient Descent‑Ascent(GDA) 연속 흐름이 수렴하지 않을 수 있음을 보인다. 핵심은 함수의 헤시안 구조가 GDA 동역학의 선형화 행렬에 복소 고유값을 도입한다는 점이다. 저자들은 2차원 공간에서 f(x,y)=½(x²−y²)+ε·xy 형태의 함수를 변형하여, 양변 PL 조건을 만족하도록 설계한다. 여기서 ε는 작은 양수이며, 이 항이 교차 항을 만들어 헤시안이 비대칭적이면서도 양정(positive definite)인 부분과 음정(negative definite)인 부분을 동시에 갖게 만든다.

선형화 분석에 따르면, 고정점(0,0) 주변의 Jacobian 행렬은