거친 초기조건을 이용한 제어 공간 그래디언트 흐름의 수렴성 연구

초록

본 논문은 Hörmander 조건을 만족하는 벡터장으로 정의된 비홀로노믹 제어 문제에 대해, 제어 공간에서의 그래디언트 흐름을 고려한다. 초기 조건을 브라운 운동과 같은 거친 경로(rough path)로 설정하면, 기존의 안장점(saddle point)이 무한대로 이동하고 최소점은 유한한 거리 내에 남는다. 특히 단계 2의 nilpotent Lie 대수 구조를 가정하면, 브라운 운동 초기화가 거의 확실히 수렴을 보이며, 수렴 속도는 지수적으로 빠르다. 이 결과는 Malliavin 미분법과 Łojasiewicz 불평등을 결합한 새로운 증명 기법을 통해 얻어진다.

상세 분석

논문은 먼저 제어 문제를 L(u)=½|y−X₁ˣ(u)|² 로 정의하고, 이 함수의 L²-그라디언트 흐름 u̇(s)=−∇L²L(u(s)) 를 고려한다. Hörmander의 bracket‑generating 가정 하에 L은 전역 최소점만을 갖지만, singular control이라 불리는 비최소 임계점이 존재한다. 이러한 점들은 전통적인 초기화에서는 안장점으로 작용해 흐름을 정체시킬 위험이 있다. 저자들은 초기 제어를 L²에 속하지 않는 거친 경로, 구체적으로는 백색 잡음의 형식인 ˙B(ω)를 선택한다. Lyons의 rough path 이론을 이용해 ˙B를 “정규화된” 신호 w로 보고, w+h 형태의 제어를 L²‑공간에 매핑한다. 핵심은 Malliavin 행렬의 최소 고유값 c(w+h)가 거의 surely 양수임을 보이는 것이다. 이는 w가 true roughness property(예: Brownian motion) 를 가질 때, w+h가 충분히 정규화된 경우에도 성립한다. 따라서 ∇L²L(w+h)=0이면 반드시 L(w+h)=0, 즉 안장점이 사라진다.

수렴을 보이기 위해서는 Łojasiewicz 불평등 형태인
c(w+h)² ≥ C(w)(1+‖h‖H²)
를 확보해야 한다. 저자들은 단계 2 nilpotent Lie 대수(즉, 모든 3중 괄호가 0) 가정 하에, Brownian 경로의 불규칙성으로부터
‖B−h‖{L²} ≥ C(ω)(1+‖h‖_{H¹})
이라는 새로운 부등식을 증명한다. 이는 기존 Norris lemma이나 일반적인 Malliavin 비퇴화 결과보다 강력하며, 따라서 그래디언트 흐름이 무한대로 발산하지 않고 반드시 최소점으로 수렴함을 보인다. 수렴 속도는 c(w+h)와 L(w+h) 사이의 관계를 이용해 지수적 수렴을 얻는다.

또한 이론을 이산화하여, L‑값이 독립적인 표준 정규 변수로 초기화된 piecewise‑constant 제어 공간 U_L 에서도 동일한 수렴 결과를 얻는다. 이는 실제 딥 Residual Neural Net 학습에서 파라미터 수가 데이터 차원보다 작을 때, 무작위 초기화가 안장점 회피와 빠른 수렴을 보장할 수 있음을 시사한다.