부분 관측 텐서의 저랭크 추정을 위한 볼록 최적화 기법

**1. 서론 및 연구 배경** 다차원 데이터는 영상, 신호 처리, 추천 시스템 등 다양한 분야에서 핵심적인 역할을 한다. 이러한 데이터는 종종 관측이 불완전하거나 노이즈가 섞여 있어, 저랭크 텐서 모델을 통해 숨겨진 구조를 복원하는 것이 중요하다. 기존 Tucker 분해 기반 방법은 사전 랭크 지정과 비볼록 최적화(예: ALS) 때문에 수렴 보장이 어렵고, 초기값에 민감한 단점이 있다. 따라서 전역 최적해를 보장하면서 자동으로 랭크를 추정할 수 있는 새로운 접근이 요구된다. **2. 관련 연구** 행렬 저랭크 복원에서는 핵노름(트레이스 노름) 정규화가 널리 사용되며, 이는 NP‑hard한 랭크 최소화 문제를 볼록하게 완화한다. 텐서 분야에서도 CP, Tucker, Tensor‑Train 등 다양한 분해가 제안됐지만, 대부분은 비볼록 최적화에 의존한다. 최근에는 텐서 전개 행렬에 대한 핵노름을 적용한 “오버랩드”와 “라텐트” 정규화가 제안됐으나, 이들을 통합하거나 자동 랭크 추정까지 포괄하는 연구는 부족했다. **3. 문제 정의 및 모델링** 관측 텐서 \(\mathcal{Y}\)와 관측 마스크 \(\Omega\)가 주어질 때, 목표는 Tucker 분해 \(\mathcal{X} = \mathcal{G} \times_1 U^{(1)} \times_2 U^{(2)} \times_3 \dots\) 를 복원하는 것이다. 저자는 다음과 같은 일반형 볼록 목적함수를 제시한다. \