이미지 복원을 위한 트렁케이트 핵심값 최소화와 반복 지원 탐지

초록

본 논문은 핵심값(핵심값) 최소화(Nuclear Norm) 대신 가장 큰 r개의 특이값을 제외하고 나머지만 최소화하는 트렁케이트 핵심값 정규화(TNNR)를 도입하고, 이를 반복 지원 탐지(ISD) 기법과 결합한 다단계 알고리즘(LRISD)을 제안한다. 제안 방법은 행렬 완성 문제뿐 아니라 일반적인 저‑랭크 행렬 복원 문제에도 적용 가능하며, 특이값 개수 r을 자동 추정하는 SVE(특이값 추정) 절차를 포함한다. 실험 결과, 기존 핵심값 최소화 기반 방법들보다 복원 정확도와 수렴 속도에서 우수함을 보인다.

상세 분석

본 연구는 저‑랭크 행렬 복원 문제를 해결하기 위한 기존 핵심값 최소화(Nuclear Norm Minimization, NNM) 방식의 근본적인 한계를 지적한다. NNM은 모든 특이값을 동일하게 억제하기 때문에 실제 랭크와의 차이가 크게 발생할 수 있다. 이를 보완하기 위해 Hu et al.이 제안한 트렁케이트 핵심값 정규화(TNNR) 개념을 차용했으며, TNNR은 전체 특이값 중 가장 큰 r개의 값을 제외하고 나머지만을 최소화한다. 즉, 목적함수는 ‖X‖* − ∑_{i=1}^{r}σ_i(X) 형태가 되며, r이 클수록 원래 NNM에 가까워지고, r이 작을수록 더 강한 저‑랭크 제약을 부여한다.

하지만 r은 실제 문제에서 사전에 알기 어려운 파라미터이다. 논문은 이를 해결하기 위해 ISD(Iterative Support Detection)에서 영감을 얻은 Singular Value Estimate(SVE) 절차를 설계한다. SVE는 현재 복원된 행렬 X̂의 특이값 벡터 S를 구한 뒤, 첫 번째 차분 S_t와 두 번째 차분 S_tt를 이용해 “마지막 유의한 점프”를 탐지한다. 구체적으로 |S_t(i) − S_t(i+1)|가 사전 정의된 임계값 κ를 초과하는 가장 큰 인덱스를 찾고, 해당 인덱스를 r̂의 추정값으로 설정한다. 이 과정은 복원 과정과 교번하면서 r̂을 점진적으로 정제한다.

알고리즘 흐름은 크게 세 단계로 구성된다. 1) 초기에는 순수 NNM을 풀어 X₀을 얻는다. 2) SVE를 통해 r̂을 추정하고, L_r̂와 R_r̂(특이벡터의 상위 r̂개) 를 계산한다. 3) 고정된 L_r̂, R_r̂를 이용해 TNNR 기반 최적화 문제를 해결한다. 여기서는 세 가지 모델을 고려한다: (i) 제약식 A X = b (정확한 측정), (ii) 정규화형 ‖A X − b‖₂² (노이즈가 있는 경우), (iii) 불등식 ‖A X − b‖₂ ≤ δ (노이즈 허용). 각 모델은 ADMM(Alternating Direction Method of Multipliers) 또는 변형된 ADMM(TNNR‑ADMM)으로 풀며, L_r̂·X·R_r̂ᵀ 항에 대한 폐형식 솔루션을 제공한다.

이때 핵심 수학적 변형은 ‖X‖* − Tr(L_r̂ X R_r̂ᵀ) 를 최소화하는 문제를, ‖X‖*와 Tr(L_r̂ X R_r̂ᵀ) 를 각각 별도의 변수로 도입해 교번 최적화 형태로 전환하는 것이다. ADMM의 업데이트 단계에서는 특이값 임계값 연산(soft‑thresholding)과 투영 연산(P_A) 이 각각 닫힌 형태로 계산된다. 또한 A가 직교(AAᵀ = I)인 경우, (I + αAᵀA)⁻¹ 를 간단히 I − α/(1+α)·AᵀA 로 표현할 수 있어 연산 비용을 크게 절감한다.

실험에서는 이미지 인페인팅, 압축 센싱, 의료 영상 복원 등 다양한 시나리오를 사용했다. 정량적 지표인 PSNR, SSIM, 그리고 복원된 특이값 분포를 비교했을 때, LRISD(LR‑ISD) 기반 TNNR‑ADMM이 기존 NNM‑ADMM, SVT, LMaFit 등과 비교해 평균 1‑2 dB 이상의 PSNR 향상을 보였다. 특히 r̂을 정확히 추정했을 때(예: 5%~10% 수준의 관측 손실) 복원 품질이 크게 개선되었으며, r̂ 추정 과정 자체도 몇 번의 반복만에 수렴해 전체 연산량을 크게 늘리지 않았다.

요약하면, 본 논문은 (1) TNNR을 일반 저‑랭크 복원 문제에 확장, (2) ISD‑기법을 특이값 영역에 적용한 SVE를 통해 r를 자동 추정, (3) ADMM 기반 효율적인 솔버를 설계함으로써 기존 핵심값 최소화 방법의 한계를 극복하고, 실험적으로도 뛰어난 성능을 입증하였다.