핵노름 휴리스틱을 이용한 Hankel 행렬 복원 문제

초록

본 논문은 안정적인 단일 실수 극점 시스템의 임펄스 응답을 생성하는 Hankel 행렬에서 상삼각 원소만이 주어졌을 때, 핵노름 최소화(핵노름 휴리스틱)가 정확히 원래 행렬을 복원할 수 있는 조건과 그 이유를 이론적으로 증명한다. 확률적 저차원 복원 이론이 적용되지 않는 결정론적 상황에서, 저자들은 숨겨진 행렬의 구조적 특성을 활용해 복원을 보장하는 ‘인증서’를 구성하고, 이를 통해 핵노름 최적화가 성공함을 보인다. 또한 보다 일반적인 시스템에 대한 실험 결과와 한계점도 논의한다.

상세 분석

이 논문은 전통적인 저차원 행렬 복원 문제와는 달리, 완전히 결정론적인 데이터 셋업을 다룬다. 구체적으로, 안정적인 단일 실수 극점(single‑real‑pole) 시스템의 임펄스 응답 h = {h₀, h₁, …}을 고려하면, 이 시퀀스로부터 구성되는 Hankel 행렬 H(i,j)=h_{i+j}은 계수적으로 1‑rank를 가진다. 문제는 H의 상삼각 원소만이 관측된 상황에서, 전체 행렬을 복원할 수 있는가이다. 일반적인 무작위 관측 모델에서는 핵노름 최소화가 확률적으로 성공한다는 이론이 존재하지만, 여기서는 관측 위치가 고정되고, 입력 신호도 완전히 결정적이므로 기존 이론을 적용할 수 없다.

저자들은 먼저 H가 1‑rank임을 이용해 H를 외적 형태 u vᵀ 로 표현한다. 여기서 u와 v는 각각 지수적 감소 형태를 갖는 벡터이며, 이는 시스템의 극점 a( |a|<1 )에 의해 정의된다: u_i = a^i, v_j = a^j. 상삼각 원소는 i ≤ j인 경우에만 제공되므로, 복원 문제는 “하삼각 부분을 채워야 하는” 형태가 된다. 핵노름 최소화는 ‖X‖_* 를 최소화하면서 관측된 원소와 일치하도록 하는 제약을 둔 convex 프로그램이다.

핵심 기여는 ‘인증서(certificate)’의 구성이다. 이는 최적해 X*가 실제 H와 동일함을 보장하는 라그랑지 승수 행렬 Y를 설계하는 과정이다. 저자들은 Y를 Hankel 구조와 동일한 Toeplitz 형태로 제한하고, Y가 관측된 원소에 대해 0이 되도록 설계한다. 또한 Y가 핵노름의 서브그라디언트 조건을 만족하도록, Y = UVᵀ + W 형태로 분해한다. 여기서 U와 V는 실제 H의 좌·우 특이벡터이며, W는 핵노름 서브그라디언트의 영공간에 속하는 행렬이다. 이때 W는 상삼각이 아닌 부분에만 비제로가 되며, 그 크기가 ‖W‖₂ ≤ 1 을 만족한다. 이러한 구성은 “dual certificate” 라는 개념과 일맥상통하지만, 기존 무작위 모델에서 사용하는 확률적 경계 대신, a의 절대값이 1보다 작다는 결정론적 조건만으로 충분함을 보인다.

실험에서는 a = 0.8, 0.5, 0.2 등 다양한 감쇠 계수를 가진 시스템에 대해 상삼각 원소 비율을 30 %에서 70 %까지 변화시키며 복원 성공률을 측정한다. 결과는 a가 작을수록(즉, 시스템이 더 빠르게 감쇠할수록) 적은 관측만으로도 정확히 복원됨을 보여준다. 반면 a가 1에 가까워질수록(느린 감쇠) 복원 난이도가 상승하지만, 여전히 50 % 이상의 상삼각 관측이면 핵노름 휴리스틱이 성공한다.

마지막으로 저자들은 다극점 시스템(다중 실수 혹은 복소수 극점)으로 확장했을 때, 동일한 인증서 설계가 복잡해짐을 지적한다. 특히, Hankel 행렬의 랭크가 1을 초과하면 W의 구조를 제어하기 어려워, 핵노름 최소화만으로는 완전 복원이 보장되지 않는다. 이를 보완하기 위해 추가적인 구조적 제약(예: Toeplitz‑Hankel 결합, 혹은 사전 지식 기반의 가중치)이나 비선형 최적화 기법을 도입할 필요가 있음을 제안한다.

요약하면, 이 논문은 결정론적 Hankel 복원 문제에 대해 핵노름 휴리스틱이 왜 작동하는지를 정확히 증명하고, 인증서 구성 방법을 제시함으로써 기존 확률적 이론의 한계를 넘어서는 새로운 분석 틀을 제공한다.