대규모 결손·오염 데이터 복구를 위한 구조화 저랭크 행렬 분해

초록

본 논문은 결측과 심각한 잡음이 섞인 관측값으로부터 저랭크 행렬과 희소 행렬을 동시에 복원하는 문제를 다룬다. 기존의 트레이스 노름 기반 convex 방법이 고비용 SVD 연산에 의존하는 반면, 저자들은 두 개의 작은 인수 행렬을 이용한 bilinear factorization 모델을 제안하고, 이를 ADMM 프레임워크와 QR 분해를 결합해 효율적인 알고리즘을 설계하였다. 이론적 수렴 분석과 대규모 실험을 통해 기존 최첨단 방법보다 빠르고 정확함을 입증한다.

상세 분석

이 논문은 Robust Matrix Completion(RMC)과 Compressive Principal Component Pursuit(CPCP)라는 두 종류의 문제를 하나의 통합된 구조화 저랭크 행렬 분해(framework)로 접근한다. 전통적인 접근법은 ℓ₁‑norm과 트레이스 노름(핵노름)을 동시에 최소화하는 convex 최적화 문제를 풀지만, 매 반복마다 전체 행렬에 대한 SVD를 수행해야 하므로 O(mn²)의 시간복잡도가 발생한다. 저자들은 L = UVᵀ 형태의 bilinear factorization을 도입함으로써, 원래의 대규모 변수 L을 두 개의 작은 변수 U∈ℝ^{m×d}, V∈ℝ^{n×d} (d≥rank(L)) 로 대체한다. 여기서 U는 직교성을 만족하도록 UᵀU=I 로 제약하고, 핵노름 ‖L‖*는 ‖V‖와 동등함을 보이는 Lemma 3을 이용해 문제를 ‖V‖_ 로만 축소한다. 이렇게 하면 최적화 변수의 차원이 크게 감소하고, 핵노름 정규화는 V에만 적용되므로 계산량이 크게 줄어든다.

RMC의 경우 관측 행렬 D에 대해 P_Ω(D)=P_Ω(L+S) 라는 제약을 갖는다. Lemma 2와 4를 통해 관측되지 않은 위치의 S는 0이 되므로, 제약을 단순히 D = UVᵀ + S 로 변형할 수 있다. 이후 ADMM을 적용해 U, V, S를 순차적으로 업데이트한다. U‑업데이트는 최소 ‖UVᵀ−P_k‖_F² (P_k = D−S_k+Y_k/α_k) 를 만족하는 직교 행렬을 찾는 문제이며, 이는 P_kV_k의 QR 분해를 통해 효율적으로 구한다. 기존 방법이 SVD에 의존하는 반면 QR 분해는 O(mdk) 정도의 선형 복잡도를 가지며 병렬화에 유리하다. V‑업데이트는 ‖UVᵀ−P_k‖F² + λ‖V‖* 를 최소화하는 문제로, 이는 특이값 임계값(SVT) 연산을 통해 해결한다. S‑업데이트는 ℓ₁‑norm 정규화가 적용된 단순한 소프트‑쓰레싱(soft‑thresholding) 단계이다.

CPCP는 선형 연산자 A가 포함된 일반화된 제약 A(UVᵀ+S)=y 로 표현된다. 저자는 동일한 ADMM 구조에 선형화 기법(linearization)을 도입해 V‑업데이트와 S‑업데이트를 각각 근사적으로 해결함으로써, 비선형 제약을 효율적으로 다룬다.

이론적 측면에서는 Theorem 4와 5를 통해 원래의 convex 문제의 최적해와 제안된 factorization 모델의 최적해가 일대일 대응함을 증명한다. 또한, Section 5에서는 ADMM의 수렴성을 비볼록 문제에 대해서도 부분적으로 보장하는 분석을 제공한다.

실험에서는 대규모 영상 복원, 추천 시스템 데이터, 얼굴 이미지 복원 등 다양한 베치에서 기존 IALM, LRSD, RPCA‑Alt 등과 비교했을 때, 제안 방법이 5~10배 이상의 실행 시간 절감과 동일 수준 이상의 복원 정확도를 달성함을 보여준다. 특히, 메모리 사용량이 크게 감소해 수십만 차원의 행렬에도 적용 가능함을 강조한다.

종합적으로, 이 논문은 트레이스 노름 정규화를 유지하면서도 SVD 의존성을 없애고, QR 기반의 저비용 업데이트와 ADMM을 결합한 실용적인 대규모 저랭크·희소 행렬 복원 프레임워크를 제공한다는 점에서 학술적·산업적 의의가 크다.