엔트로피 정규화 OT 알고리즘의 효율성 혁신

본 연구는 엔트로피 정규화 최적수송(Optimal Transport, OT) 문제를 다루는 최신 알고리즘들의 시간 복잡도와 실용성을 종합적으로 개선한다. 먼저 문제 설정을 정리한다. 두 이산 확률분포 \(\mu,\nu\)는 각각 최대 \(n\)개의 원자를 가지며, 비용 행렬 \(C\in\mathbb{R}_{+}^{n\times n}\)와 함께 전통적인 선형계획법(LP) 형태의 OT 문제를 정의한다. 직접 LP를 풀면 \(O(n^{3})\) 이상의 비용이 소요되므로, 엔트로피 정규화 \(\eta H(X)\)를 추가한 변형을 사용한다. 여기서 \(H(X)=-\sum_{ij}X_{ij}\log X_{ij}\)이며, 정규화 파라미터 \(\eta>0\)가 클수록 원래 OT와의 차이가 작아진다. 정규화된 문제는 강하게 볼록하고, 해가 유일하며, Sinkhorn‑Kullback‑Leibler(스케일) 반복을 통해 효율적으로 근사할 수 있다. **1. Greenkhorn 복잡도 개선** Greedy Sinkhorn, 즉 Greenkhorn은 매 단계에서 가장 큰 행·열 불균형을 선택해 하나씩 정규화한다. 기존 분석에서는 각 반복이 \(\Theta(1/n)\) 정도의 KL 감소만 보장해 전체 복잡도가 \(\widetilde O(n^{2}\varepsilon^{-3})\)로 추정되었다. 저자들은 새로운 잠재 함수 \( \Phi_t = \sum_i (r_i - (X_t\mathbf{1})_i)^2 + \sum_j (c_j - (X_t^\top\mathbf{1})_j)^2\) 를 도입하고, Greenkhorn이 선택한 행·열이 이 함수의 기울기를 최소화한다는 사실을 증명한다. 이를 통해 매 반복마다 \(\Phi_t\)가 \(\Omega(\varepsilon^{2}/n^{2})\) 만큼 감소함을 보이고, 전체 \(\varepsilon\)‑정밀도 달성에 필요한 반복 수가 \(\widetilde O(n^{2}\varepsilon^{-2})\)임을 얻는다. 이 결과는 기존 Sinkhorn과 동일한 복잡도를 가지면서, 실제 구현에서는 행·열 업데이트 비용이 절반 수준이므로 실험적으로도 더 빠른 성능을 보인다. **2. APDAMD: 적응형 프라임‑듀얼 가속 거울 하강** Dvurechensky et al. (2018)의 APDAGD는 프라임‑듀얼 구조에 Nesterov 가속을 적용했지만, 복잡도 분석에 오류가 있었음이 밝혀졌다. 논문은 이를 정정하고, 일반적인 미러 함수 \(\phi:\mathbb{R}^{n}\to\mathbb{R}\) 를 사전 지정함으로써 알고리즘을 확장한다. \(\phi\)가 ℓ∞‑노름에 대해 \(\delta\)‑강한 정규성을 만족한다면, 미러 사전조건에 따라 프라임 변수와 듀얼 변수의 업데이트 스텝이 \(\sqrt{\delta}\) 배로 조정된다. 결과적으로, 전체 복잡도는 \(\widetilde O(n^{2}\sqrt{\delta}\,\varepsilon^{-1})\)가 된다. 또한, 기존 APDAGD에 대한 복잡도 주장 \(\widetilde O(\min\{n^{9/4}\varepsilon^{-1}, n^{2}\varepsilon^{-2}\})\)가 반례(특정 비용 행렬와 불균형 마진)에서 성립하지 않음을 보이고, 보다 보수적인 상한 \(\widetilde O(n^{5/2}\varepsilon^{-1})\)를 제시한다. 이 분석은 미러 함수 선택이 알고리즘 효율성에 미치는 영향을 명확히 하며, 실제 구현에서는 \(\phi\)를 엔트로피 혹은 제곱 ℓ2‑노름으로 잡아 간단히 적용할 수 있다. **3. 결정적 가속 Sinkhorn** 가속화된 Sinkhorn은 두 개의 시퀀스를 동시에 진행한다. 메인 시퀀스는 기존 Sinkhorn과 동일하게 행·열을 교대로 정규화하지만, 각 단계마다 Nesterov‑식 가속 파라미터 \(\theta_k\)를 도입해 업데이트를 예측한다. 보조 시퀀스는 좌표 기울기(gradient)와 모노톤 라인 서치를 이용해 최적 스텝 사이즈 \(\alpha_k\)를 계산한다. 이 구조는 “추정 시퀀스(estimated sequence)”라는 개념을 도입해, 실제 변수와 가속 변수 사이의 차이를 제어한다. 복잡도 분석에서는 라그랑주 이중성 및 강한 볼록성(엔트로피 정규화) 특성을 이용해, 각 반복이 \(\Omega(\varepsilon^{4/3}/n^{7/3})\) 만큼 목표 함수값을 감소시킨다. 따라서 전체 복잡도는 \(\widetilde O(n^{7/3}\varepsilon^{-4/3})\)가 된다. 이는 1/ε 의 의존도에서 기존 Sinkhorn(\(\widetilde O(n^{2}\varepsilon^{-2})\))보다 현저히 개선된 것이며, n 의 차수에서도 APDAGD(\(\widetilde O(n^{5/2}\varepsilon^{-1})\))보다 우수하다. **4. 실험** 합성 데이터(랜덤 비용 행렬, 다양한 마진)와 실제 이미지·텍스트 매칭(MNIST, CIFAR‑10, 문서 코사인 유사도) 데이터를 사용해 세 알고리즘을 구현하였다. 실험 설정은 동일한 정규화 파라미터 \(\eta\)와 목표 정밀도 \(\varepsilon\)를 적용하고, CPU와 GPU 환경에서 실행 시간을 측정했다. 결과는: - Greenkhorn은 작은 n(≤10⁴)에서 가장 빠른 수렴을 보이며, 행·열 업데이트 비용이 절감돼 메모리 사용량도 낮았다. - APDAMD는 중간 규모(10⁴~10⁵)에서 가장 안정적인 수렴 곡선을 제공했으며, \(\delta\) 파라미터를 적절히 조정하면 2배 이상 가속 효과를 얻었다. - 가속 Sinkhorn은 높은 정밀도(ε≤10⁻⁴) 상황에서 다른 두 알고리즘을 크게 앞섰으며, 특히 GPU 가속 시 3배~5배 속도 향상을 기록했다. **5. 결론 및 전망** 논문은 엔트로피 정규화 OT 알고리즘의 이론적 복잡도 한계를 크게 낮추고, 실제 구현에서도 경쟁력을 확보한 세 가지 방법을 제시한다. Greenkhorn의 새로운 복잡도 분석은 Greedy 전략이 이론적으로도 최적에 가깝다는 것을 증명했고, APDAMD는 미러 함수 설계가 가속도에 미치는 영향을 체계화했다. 결정적 가속 Sinkhorn은 Nesterov 가속을 OT 특수 구조에 맞게 변형한 최초의 시도이며, 1/ε 의 의존도에서 기존 방법들을 뛰어넘는다. 향후 연구는 (i) 미러 함수 \(\phi\)를 데이터‑의존적으로 학습하는 방법, (ii) 다중 GPU·분산 환경에서의 스케일링, (iii) 비엔트로피 정규화(예: KL‑제곱 혼합)와의 결합을 통해 더욱 큰 문제에 적용하는 방향을 제시한다.