가중 페어링 최소제곱 시스템의 고속 해법

초록

본 논문은 기존 가중 최소제곱(WLS)을 일반화한 가중 페어링 최소제곱(WPLS) 모델을 제시한다. 직사각형 가중 행렬을 이용해 데이터 정렬 문제에 적용 가능하도록 설계했으며, 완전 계수 행렬과 계수 결손 상황 모두에 적용할 수 있는 두 가지 빠른 해법을 제안한다. 실험 결과, 특수 {1,2,3}-역을 이용한 방법이 속도, 정확도, 수치 안정성 측면에서 가장 우수함을 확인하였다.

상세 분석

본 연구는 가중 최소제곱(WLS) 문제를 확장하여 가중 페어링 최소제곱(Weighted Pairing Least‑Squares, WPLS)이라는 새로운 프레임워크를 도입한다. 전통적인 WLS는 정방형 가중 행렬 W 를 사용해 min‖W(Ax−b)‖₂² 형태로 문제를 정의한다. 반면 WPLS는 가중 행렬 W 가 m×n 크기의 직사각형 행렬일 수 있게 허용함으로써, 서로 다른 차원의 데이터 집합을 직접 페어링(pairing)하여 정렬하거나 매핑하는 문제에 자연스럽게 적용된다. 이는 특히 이미지 정합, 포인트 클라우드 매칭, 다중 센서 데이터 융합 등에서 두 데이터 집합 사이의 대응 관계를 동시에 추정해야 하는 상황에 유리하다.

수학적으로 WPLS는 다음과 같이 표현된다.
 minₓ ‖W·(A·x−b)‖₂², 여기서 W∈ℝ^{m×n}, A∈ℝ^{p×q}, b∈ℝ^{p}.
W가 직사각형이므로 WᵀW 가 정방형이지만, 일반적인 가중 행렬과 달리 WᵀW 가 가역적이지 않을 수 있다. 따라서 기존의 정규 방정식 (AᵀWᵀWA) x = AᵀWᵀWb 을 직접 풀면 계수 결손(rank‑deficient) 상황에서 해가 존재하지 않거나 수치적으로 불안정해진다.

이를 해결하기 위해 논문은 두 가지 해법을 제시한다. 첫 번째는 일반적인 SVD 기반의 최소‑노름 해를 구하는 방법으로, 모든 특이값을 이용해 의사역(pseudoinverse) (AᵀWᵀWA)^{+} 를 계산한다. 이 방법은 이론적으로 완전하지만, 대규모 문제에서는 계산 비용이 O(n³) 에 가까워 비현실적이다. 두 번째는 특수 {1,2,3}-역을 활용한 알고리즘이다. {1,2,3}-역은 Penrose‑Moore 역의 부분집합으로, (i) AA^{(1,2,3)}A = A, (ii) A^{(1,2,3)}AA^{(1,2,3)} = A^{(1,2,3)}, (iii) (AA^{(1,2,3)})ᵀ = AA^{(1,2,3)} 이라는 세 조건만 만족하면 된다. 이 조건은 전통적인 역의 대칭성 요구를 완화시켜, 특히 WᵀW 가 반정칙일 때도 효율적인 계산을 가능하게 한다.

알고리즘 구현은 기존의 Cholesky 분해 절차를 약간 변형한 형태로 이루어진다. 먼저 C = AᵀWᵀWA 를 구성하고, C가 양정(positive‑definite)인 경우에는 표준 Cholesky C = LLᵀ 를 수행한다. C가 반정칙이거나 특이값이 0에 가까운 경우, 논문은 L의 대각 원소가 0 이하가 되지 않도록 작은 정규화 파라미터 ε 을 추가하는 “modified Cholesky” 방식을 제안한다. 이후 역전파 단계에서 Lᵀ 에 대한 역방향 대입(backward substitution)만 수행하면 {1,2,3}-역 C^{(1,2,3)} 을 얻을 수 있다. 최종 해는 x = C^{(1,2,3)}AᵀWᵀWb 으로 계산된다. 이 과정은 행렬 연산이 O(n²) 정도이며, 메모리 사용량도 기존 SVD 대비 현저히 적다.

실험에서는 (1) 무작위 생성된 완전 계수 행렬, (2) 의도적으로 결손을 삽입한 행렬, (3) 실제 이미지 정합 데이터셋을 사용했다. 결과는 {1,2,3}-역 기반 방법이 평균 5~7배 빠른 실행 시간을 보였으며, 상대 오차는 10⁻⁸ 수준으로 SVD 기반 방법과 동등하거나 더 우수했다. 특히 결손이 심한 경우에도 수치적 발산 없이 안정적인 해를 제공했다. 이러한 결과는 직사각형 가중 행렬을 이용한 대규모 데이터 정렬 문제에 있어, 기존 방법보다 실용적인 대안을 제시한다는 점에서 의미가 크다.