불연속 사전과 통계적 제한 등거리 성질

본 논문은 디지털 신호를 \(\mathbb{F}_p\) 위의 복소함수로 모델링하고, 이러한 신호 공간 \(H=\mathbb{C}(\mathbb{F}_p)\)에 대해 “사전(dictionary)”이라는 개념을 도입한다. 사전은 원자라 불리는 벡터들의 집합이며, 일반적으로 \(|D|\)가 차원 \(p\)보다 훨씬 크다. 사전이 제공하는 선형 변환 \(\Theta:C(D)\to H\)는 사전 원소들을 열벡터로 하는 \(p\times|D|\) 행렬로 생각할 수 있다. 전통적인 압축 센싱 이론에서는 이 변환이 제한 등거리 성질(RIP)을 만족할 때, 희소 신호를 정확히 복원할 수 있다. RIP는 모든 크기 \(n\) 이하의 부분집합 \(S\subset D\)에 대해 \(\Theta_S\)가 거의 등거리 사상임을 의미한다. 그러나 결정론적 사전에서 RIP를 직접 증명하는 것은 현재까지 어려운 문제이며, 특히 \(|D|\gg p\)인 경우에 더욱 그렇다. 이에 저자들은 “통계적 제한 등거리 성질(SRIP)”이라는 새로운 개념을 제안한다. SRIP는 사전이 다음 두 조건을 만족할 때 성립한다. (1) 사전이 서로 겹치지 않는 정규 기저들의 합집합 형태, 즉 \(D=\bigsqcup_{x\in X}B_x\)이며 각 \(B_x\)는 \(H\)의 정규 기저이다. (2) 사전이 \(\mu\)-인코히런트, 즉 모든 서로 다른 원자 사이의 내적이 \(\mu\sqrt{p}\) 이하이다. 이러한 구조 하에서, 크기 \(n=p^{1-\varepsilon}\)인 무작위 부분집합 \(S\)에 대해 Gram 행렬 \(G(S)=\Theta_S^{*}\Theta_S\)와 항등 행렬 \(I_S\)의 차이의 연산자 노름이 \(p^{-\varepsilon/2}\) 이하가 될 확률이 \(C(k)p^{-k\varepsilon/2}\)보다 작다는 정리 IV‑A.1을 증명한다. 여기서 \(C(k)\)는 \(\mu\)와 \(k\)에만 의존하는 상수이다. 따라서 \(p\)가 충분히 크면, 거의 모든 선택된 부분집합이 등거리성을 거의 만족한다는 의미이다. 다음으로, 정규화된 오차 행렬 \(E(S)=\sqrt{p/n}\,(G(S)-I_S)\)의 고유값 분포를 조사한다. 정리 IV‑B.1에 따르면, \(p\to\infty\)일 때 \(\rho_{E(S)}\)는 Wigner 반원형 분포 \(\rho_{SC}(x)=\frac{1}{2\pi}\sqrt{4-x^{2}}\mathbf{1}_{