무작위 기저 탐색으로 빠르고 거의 최적의 행렬 복원

초록

본 논문은 행렬 완성 문제에서 “안정적인(stable)” 행렬이라는 새로운 클래스를 정의하고, 이를 기반으로 무작위 기저 추구(RBP) 알고리즘을 제안한다. RBP는 $O(nr\log n)$개의 원소만 관측하면 안정적인 계수 $r$인 $n\times n$ 행렬을 정확히 복원할 수 있으며, 시간 복잡도는 $O(nr^{2}\log n + n^{2}r)$이다. 이는 기존 SDP 기반 방법보다 표본 수와 실행 시간이 크게 개선된 결과이다.

상세 분석

이 논문은 행렬 완성 문제를 정보 이론적 관점에서 재조명한다. 기존 연구에서 핵심이 된 ‘비동조성(incoherence)’ 가정은 행렬의 좌·우 특이벡터가 표준 기저와 거의 직교함을 의미한다. 저자들은 이를 일반화하여 ‘안정성(stability)’이라는 개념을 도입한다. 안정성은 두 가지 조건으로 정의된다. 첫째, 모든 행과 열의 $l_{2}$-노름이 $O(\sqrt{r})$ 이하로 제한돼 행·열이 지나치게 편중되지 않음; 둘째, 행렬의 최소 특이값이 일정 수준 이상 유지돼 수치적 안정성을 보장한다. 이러한 정의는 비동조성 행렬을 포함하면서도, 예를 들어 무작위 가우시안 행렬이나 일부 구조적 스파스 행렬 등 더 넓은 클래스에 적용 가능하다.

알고리즘 설계는 “무작위 기저 추구(Randomized Basis Pursuit, RBP)”라는 이름 그대로, 먼저 행렬의 열(또는 행) 중에서 무작위로 $O(r\log n)$개의 샘플을 선택한다. 선택된 열들은 선형 독립성을 가질 확률이 높으며, 이를 기저로 삼아 남은 열을 선형 결합으로 표현한다. 구체적으로, 선택된 열들로 이루어진 서브매트릭스 $C$를 구성하고, $C$가 전치역행렬을 갖는 경우 $C^{\dagger}$(의사역행렬)를 이용해 전체 행렬을 $A = C X$ 형태로 복원한다. 여기서 $X$는 남은 열들의 계수 행렬이며, 이는 관측된 원소들의 선형 시스템을 풀어 얻는다.

핵심 이론적 결과는 두 가지 확률적 경계이다. 첫째, $O(nr\log n)$개의 무작위 원소만으로도 $C$가 전치역행렬을 가질 확률이 $1 - n^{-c}$ 수준으로 충분히 높다(여기서 $c$는 상수). 둘째, 복원 과정에서 발생할 수 있는 수치 오차는 안정성 가정에 의해 $O(\epsilon)$ 이하로 억제된다. 따라서 알고리즘은 정확히 원본 행렬을 복원한다는 강력한 보장을 제공한다.

복잡도 분석에서는 두 단계가 주요 비용을 차지한다. 첫 번째는 $O(nr\log n)$개의 열을 선택하고 전치역행렬을 검증하는 단계로, 이는 $O(nr^{2}\log n)$ 시간에 수행된다. 두 번째는 전체 행렬을 $C X$ 형태로 재구성하는 단계로, $C$와 $X$의 곱셈이 $O(n^{2}r)$에 해당한다. 전체 복합 복잡도는 $O(nr^{2}\log n + n^{2}r)$이며, 이는 기존 SDP 기반 방법의 $Ω(n^{4}r^{2}\log^{12}n)$에 비해 실질적으로 차원이 낮다.

또한, 저자들은 실험을 통해 RBP가 실제 데이터셋(예: 이미지 복원, 추천 시스템)에서도 표본 효율성과 실행 속도에서 기존 방법을 크게 앞선다는 것을 입증한다. 특히, 표본 수가 $O(nr\log n)$ 수준일 때도 복원 정확도가 99.9% 이상 유지되는 점이 눈에 띈다.

결론적으로, 이 논문은 행렬 완성 문제에 대한 새로운 이론적 프레임워크와 실용적인 알고리즘을 동시에 제공한다. 안정성 가정은 비동조성보다 포괄적이며, RBP는 표본 효율성, 시간 복잡도, 그리고 정확한 복원이라는 세 축을 모두 만족한다. 향후 연구에서는 안정성 조건을 더욱 완화하거나, 비정방형 행렬 및 저차원 임베딩 상황에 적용하는 방향이 기대된다.