베이지안 CP 텐서 분해를 통한 자동 랭크 결정 및 결측 데이터 복원

초록

본 논문은 CP 텐서 분해를 베이지안 프레임워크로 재구성하고, 자동 랭크 결정과 결측값 예측을 동시에 수행하는 방법을 제안한다. 희소성을 유도하는 ARD 기반 하이퍼프라미터와 변분 베이지안 추론을 이용해 파라미터를 튜닝 없이 학습하며, 선형 시간 복잡도로 대규모 텐서에 적용 가능함을 보인다. 합성 및 실제 이미지 데이터 실험에서 기존 방법들을 능가하는 성능을 확인하였다.

상세 분석

이 논문은 텐서 완성을 위해 가장 널리 사용되는 CP(CANDECOMP/PARAFAC) 분해에 베이지안 접근을 도입함으로써 두 가지 핵심 문제—텐서 랭크의 사전 지정 어려움과 불확실성(uncertainty) 표현 부족—를 동시에 해결한다. 먼저, 저자들은 각 모드의 팩터 행렬을 정규분포(평균 0, 공분산 Λ⁻¹)로 가정하고, Λ의 대각 원소 λ_r에 대해 감마 하이퍼프라미터(c₀,d₀)를 부여한다. 이는 자동 관련성 결정(Automatic Relevance Determination, ARD)과 유사한 구조로, λ_r이 크게 되면 해당 랭크 성분이 자동으로 억제되어 실질적인 CP 랭크가 데이터에 맞게 감소한다. 또한 잡음 정밀도 τ에 대해서도 감마 사전분포를 두어 완전 베이지안 모델을 구성한다.

모델 학습은 변분 베이지안(VB) 방법을 사용한다. 전체 파라미터 Θ={A^{(n)}, λ, τ}에 대해 평균-필드 근사를 적용해 q(Θ)=∏_n q(A^{(n)}) q(λ) q(τ) 형태의 팩터화된 근사분포를 도출한다. 각 팩터 행렬에 대한 업데이트는 관측된 텐서 원소들의 가중합 형태로 표현되며, Khatri‑Rao 곱을 이용해 효율적인 계산을 가능하게 한다. 특히, 관측 마스크 O를 통해 결측값을 무시하고, 선형 시간 복잡도 O(|Ω|·R·N) 를 유지한다는 점이 큰 장점이다.

알고리즘은 다음과 같은 절차로 진행된다. 1) 초기 랭크 R을 상한값(예: 최대 차원)으로 설정하고, 모든 λ_r을 작은 값으로 초기화한다. 2) 변분 업데이트를 반복하면서 λ_r의 기대값이 크게 증가하면 해당 성분은 실질적으로 사라진다. 3) 수렴 시점에서 남아 있는 λ_r 개수가 자동으로 추정된 CP 랭크가 된다. 4) 결측값에 대한 예측은 후방 예측분포 p(y_{missing}|Y_{obs})≈∫p(y_{missing}|Θ)q(Θ)dΘ 로 근사한다.

실험에서는 (i) 합성 텐서에서 다양한 관측 비율(10%~90%)에 대해 실제 랭크를 정확히 복원하고, (ii) 이미지 인페인팅, 얼굴 이미지 합성 등 실제 데이터에서 PSNR/SSIM 등 정량적 지표와 시각적 품질 모두에서 최신 행렬/텐서 완성 기법(예: geomCG, HaLRTC, STDC)보다 우수함을 보였다. 특히, 과도한 랭크를 지정했을 때 기존 방법이 과적합으로 성능이 급락하는 반면, 제안 방법은 λ_r에 의해 자동 억제되므로 안정적인 복원을 유지한다.

한계점으로는 변분 근사가 평균-필드 가정을 기반으로 하므로 복잡한 다중모달 후방분포를 완전히 포착하지 못한다는 점, 그리고 감마 하이퍼파라미터(c₀,d₀,a₀,b₀)의 비공식적인 선택이 여전히 필요하다는 점을 들 수 있다. 또한, 현재 구현은 완전 관측 텐서에 비해 매우 희소한 관측 마스크에서는 수렴 속도가 다소 느려질 수 있다. 향후 연구에서는 스파스 구조를 더 적극적으로 활용한 스토캐스틱 변분 혹은 MCMC 기반 하이브리드 추론을 도입해 정확도와 효율성을 동시에 개선할 여지가 있다.