병렬 전처리와 신뢰구역을 결합한 딥러닝 최적화 전략

초록

**
본 논문은 대규모 비선형 최적화 문제에 적용 가능한 Additively Preconditioned Trust‑Region Strategy (APTS)를 딥러닝 학습에 맞게 변형한다. 파라미터 공간을 서브도메인으로 분할하고, 각 서브문제를 병렬로 해결한 뒤 additive Schwarz 방식으로 교정한다. 신뢰구역 메커니즘을 도입해 전역 수렴성을 보장하고, 하이퍼파라미터 튜닝 의존도를 크게 낮춘다.

**

상세 분석

**
APTS는 전통적인 신뢰구역(Trust‑Region, TR) 방법에 비선형 오른쪽 전처리(right‑preconditioning)를 결합한 프레임워크이다. 논문은 먼저 파라미터 벡터 θ ∈ ℝⁿ을 서로 겹치지 않는 서브셋 C₁,…,C_N 으로 분할하고, 각 서브셋에 대응하는 제한 연산자 R_d 와 확장 연산자 R_dᵀ 를 정의한다. 이를 통해 전체 손실 f(θ) 를 서브도메인별 로컬 손실 f_d(θ_d) 로 분해하고, 각 서브문제에 대해 1차 일관성 보정을 포함한 수정 목표 \tilde f_d 을 만든다.

전처리 단계에서는 각 서브문제에 대해 비선형 전처리 연산자 F_d 를 적용해 로컬 스텝 s_k^d = F_d(R_dθ_k) − R_dθ_k 를 얻는다. 이 로컬 스텝들은 R_dᵀ 를 통해 전역 파라미터 공간으로 다시 합쳐지며, 전체 전처리 연산자 F(θ_k) = θ_k + ∑_d R_dᵀ s_k^d 가 된다. 중요한 점은 이 합산 과정이 “충분히 좋은” 경우에만 전역 업데이트를 수행하도록 조건을 두어, 전역 신뢰구역 반경 Δ_k^G 을 초과하지 않도록 설계했다는 것이다.

신뢰구역 메커니즘은 전통적인 2차 모델 m_k(s) = ∇f(θ_k)ᵀs + ½ sᵀH_k s 를 사용하고, 실제 감소와 예측 감소의 비율 ρ_k 를 통해 스텝 수용 여부와 반경 조정을 결정한다. APTS는 각 서브도메인에서 m 번의 로컬 TR 반복을 병렬로 수행한 뒤, 전역 스텝 s_k 을 구성하고, 전역 ρ_k 를 기반으로 전체 업데이트를 수용한다. 필요 시 전역 손실 f 에 대해 추가 m_G 번의 TR 반복을 수행해 서브도메인 간 잔여 결합을 보정한다.

연산 효율성을 위해 논문은 Inexact APTS(IAPTS)를 제안한다. 여기서는 서브도메인을 전체 모델 복제 대신 GPU별 네트워크 파티션으로 정의한다. 전체 순전파와 역전파를 한 번 수행한 뒤, 각 파티션에 대해 제한된 파라미터만 업데이트함으로써 메모리와 연산량을 크게 절감한다. 또한, 서브도메인 TR 반경을 Δ_k^G / m 으로 초기화하고 증가 계수를 1 로 고정해, 모든 로컬 스텝이 합쳐져도 전역 신뢰구역을 벗어나지 않도록 보장한다.

이러한 설계는 다음과 같은 장점을 제공한다. 첫째, 서브문제들이 독립적으로 병렬 실행되므로 대규모 모델과 데이터에 대한 스케일아웃이 자연스럽게 이루어진다. 둘째, TR 기반 전역 수렴 보장은 비선형 비볼록 손실에서도 이론적 수렴성을 제공한다. 셋째, 전역 학습률이나 모멘텀 같은 하이퍼파라미터를 최소화하고, 신뢰구역 반경만 적절히 조정하면 되므로 튜닝 비용이 크게 감소한다. 마지막으로, 기존 1차 최적화 방법(SGD, Adam 등)과 달리 2차 정보를 활용하면서도 전체 Hessian을 직접 계산하지 않아 메모리 부담을 완화한다.

**