행렬 리 군 내부점법을 이용한 제약 최적화

본 논문은 행렬 리 군 G 위에 정의된 제약 최적화 문제를 직접 다루는 새로운 내부점 알고리즘인 MLG‑IPM(Matrix Lie Group Interior‑Point Method)을 제안한다. 기존의 리만 최적화 방법은 리 군의 접공간을 기반으로 하여 리만 계량을 명시적으로 정의하고, 그라디언트·헤시안을 해당 계량에 맞게 변환한다. 그러나 이러한 접근은 (i) 리 군마다 적절한 bi‑invariant 계량이 존재하지 않을 수 있고, (ii) 행렬 형태의 접공간 표현이 중복성을 초래해 수치적 조건수가 악화되는 문제를 안고 있다. MLG‑IPM은 이러한 한계를 극복하기 위해, G 의 리 대수 𝔤 에 대한 선형 사상 S:ℝ^m→𝔤 를 도입한다. 변수 X={X₁,…,X_n}⊂G 에 대한 작은 변동은 X exp(S(ζ)) 형태로 표현되며, 여기서 ζ∈ℝ^{nm} 은 최소 차원의 파라미터이다. 이 파라미터화는 중복을 완전히 제거하고, 리 군 자체가 제공하는 곱셈 구조만을 이용한다는 점에서 핵심적인 설계 선택이다. 문제 정의는 일반적인 비선형 목적함수 f(G)와 부등식 g_i(G)≤0, 등식 h_j(G)=0 을 포함한다. 내부점 기법을 적용하기 위해 부등식 제약을 슬랙 변수 s>0 와 결합해 g(G)+s=0 이라는 동등식 형태로 변환한다. 라그랑지안 L(G,ν,λ)=f(G)+νᵀg(G)+λᵀh(G) 에 대해, 리 군 상의 미분은 감도 행렬 J_G g, J_G h 와 결합된 형태인  ∇_G L = ∇_G f + (J_G g)ᵀν + (J_G h)ᵀλ 으로 정의된다. 두 번째 미분은 곡률 행렬 H_G L = H_G f + Σ ν_i H_G g_i + Σ λ_j H_G h_j 으로 구성되며, 이는 전통적인 헤시안과 동등한 역할을 수행한다. 프라이멀‑듀얼 뉴턴 단계는 KKT 조건을 하나의 벡터 필드 F 로 묶어,  J_X F Δx = −F(X) 라는 선형 시스템을 푼다. 여기서 J_X F 는 감도·곡률 행렬을 블록 형태로 결합한 행렬이며, 비특이성을 보장하기 위해 활성 제약의 그라디언트 선형 독립성, 라그랑지 승수 양성, 제한된 서브스페이스에서의 양정성을 가정한다. Δx 는 리 대수 좌표에서의 변화량이므로, 실제 변수 업데이트는  X_{k+1}=X_k exp(S(α Δx_k)) 와 같이 지수 사상을 이용한 곱셈적 형태로 수행된다. 이 과정은 자동으로 G 에 남게 하며, 별도의 재투영이나 정규화가 필요 없게 만든다. 스텝 크기 α 는 “fraction‑to‑the‑boundary” 전략으로 결정되어 슬랙·쌍대 변수의 양성을 유지한다. 수렴 이론은 네 가지 기본 가정(해 존재, 활성 제약 그라디언트 독립, 라그랑지 승수 양성, 곡률 행렬 양정) 하에, 감도 행렬 J_X* F가 비특이임을 증명한다. 이때 정확한 뉴턴 단계(잔차 ρ_k=0)에서는 이차 수렴을, 잔차가 ∥F(X_k)∥ 또는 ∥F(X_k)∥² 정도이면 선형·이차 수렴을 각각 보장한다. 또한 α<1 인 경우에도 선형 수렴을 유지하도록 분석하였다. 실험에서는 차원 n=7 인 SO(7) 과 SL(7) 위에서 무작위 생성된 1000개의 테스트 케이스에 대해 MLG‑IPM, 기존 리만 내부점법(RIPM), 그리고 유클리드 내부점법(EIPM)을 비교하였다. 주요 성능 지표는 성공률, 평균 반복 횟수, 최종 목적값 오차, 그리고 실행 시간이다. 결과는 다음과 같다. - 성공률: MLG‑IPM ≈ 98 %, RIPM ≈ 85 %, EIPM ≈ 73 % - 평균 반복 횟수: MLG‑IPM ≈ 12회, RIPM ≈ 27회, EIPM ≈ 35회 - 최종 목적값 오차(ℓ₂): MLG‑IPM ≈ 1e‑8, RIPM ≈ 1e‑6, EIPM ≈ 1e‑5 - 실행 시간: MLG‑IPM이 동일한 하드웨어에서 RIPM보다 약 15 % 빠름(행렬 연산량 감소와 지수 사상 기반 업데이트 덕분) 이러한 결과는 최소 차원 파라미터화가 메모리·연산 효율을 높이고, 지수 사상에 의한 구조적 업데이트가 수치적 안정성을 크게 향상시킨다는 것을 실증한다. 또한 슬랙·쌍대 변수의 양성을 보장하는 장벽 전략이 내부점 알고리즘의 전반적인 견고성을 강화한다는 점도 확인되었다. 결론적으로, MLG‑IPM은 (1) 리 군 전반에 적용 가능한 일반적인 프레임워크, (2) 리 대수 기반 최소 파라미터화로 중복 제거, (3) 리만 계량에 의존하지 않아 구현이 단순화, (4) 이차 수렴 이론적 보장 및 부정확한 뉴턴 단계에 대한 견고성, (5) 실험적으로 기존 방법 대비 성공률·속도·정밀도에서 현저히 우수함을 입증한다. 향후 연구에서는 대규모 문제에 대한 사전조건부 사전해법(preconditioner) 설계와, 비정형 제약(예: 비선형 불평등) 및 동적 시스템에의 적용을 탐색할 예정이다.