노이즈의 보편적 해석과 J‑매트릭스 형식

초록

본 논문은 Z‑변환과 Padé 근사에서 유도된 Jacobi 3항 재귀식을 이용해 J‑연산자를 정의하고, 이를 통해 유한·무한 시계열의 신호와 잡음을 복소 평면에서 명확히 구분한다. 단위 원 내부의 고유값은 감쇠 진동을, 원 위의 연속 스펙트럼은 잡음을 나타내며, 잡음의 극점·영점은 길이가 무한히 커질수록 원 위에 균일한 각분포를 보이는 보편적 특성을 가진다.

상세 분석

이 연구는 전통적인 푸리에 변환이 잡음과 신호를 동일한 실수축 상에 혼합시키는 한계를 극복하고자, Z‑변환을 복소 평면으로 확장한다는 점에서 혁신적이다. Z‑변환의 Padé 근사는 분모와 분자를 각각 다항식으로 근사하는데, 이때 분모 다항식의 계수는 Jacobi 3항 재귀식에 의해 생성된다. 저자들은 이 재귀식을 Hilbert 공간 상의 선형 연산자, 즉 J‑연산자(J‑Operator)로 승격시켜, 연산자의 스펙트럼을 두 부분으로 해석한다.

첫 번째는 단위 원 내부에 위치한 이산 고유값들이다. 이 고유값은 복소 평면에서 |z|<1인 점으로, 각각 하나의 감쇠 진동 모드에 대응한다. 물리적으로는 복소 지수 형태의 해가 e^{-(γ+iω)t}와 동일한 의미를 갖으며, γ는 감쇠율, ω는 진동 주파수를 나타낸다. 따라서 J‑연산자의 이산 스펙트럼을 추출하면 시계열에 내재된 모든 감쇠 진동을 정확히 복원할 수 있다.

두 번째는 단위 원 자체에 놓인 연속 스펙트럼이다. 이 연속 스펙트럼은 |z|=1인 복소점들의 집합으로, 저자들은 이를 “노이즈 스펙트럼”이라고 명명한다. 흰색, 가우시안, 핑크 등 다양한 잡음 모델을 시뮬레이션한 결과, 잡음에 의해 생성된 극점과 영점은 결국 단위 원 위에 균일한 각도 분포를 이루며, 시계열 길이가 무한대로 갈 때는 완전한 균등 분포에 수렴한다는 보편적 통계적 법칙을 발견했다. 이는 잡음이 복소 평면에서 “각도 흡입점” 역할을 하며, 특정 각도(특히 2π의 정수배) 주변에 극점이 집중되는 현상을 설명한다.

실제 데이터가 유한한 길이 2N을 가질 경우, 무한 차원의 J‑연산자는 N차원 J‑매트릭스 J_N으로 근사된다. J_N은 대칭(시간 역전 공변) 특성을 가지며, N개의 고유값을 제공한다. 이 고유값들은 원 내부와 원 위에 동시에 존재할 수 있는데, 원 위에 위치한 고유값은 잡음에 기인한 “가짜” 모드이며, 원 내부에 있는 고유값만이 물리적 의미를 가진다. 저자들은 효율적인 수치 알고리즘을 제시해 수백 개의 극점을 정확히 계산하고, 이를 통해 신호와 잡음을 명확히 구분한다.

또한, Z‑변환이 “손실 없는 언더샘플링”을 가능하게 한다는 점을 강조한다. 샘플링 간격을 늘려도 단위 원 내부의 고유값은 변하지 않으며, 이는 기존의 나이퀴스트 한계와는 다른 새로운 샘플링 이론을 시사한다. 실제 예제로는 단일 감쇠 진동, 다중 진동, 그리고 복합 잡음이 섞인 신호를 분석했으며, 모두 J‑매트릭스 방법이 기존 FFT 기반 방법보다 높은 해상도와 잡음 저항성을 보임을 입증했다.

이러한 결과는 신호 처리, 지진학, 전자공학 등 다양한 분야에서 잡음이 지배적인 상황에서도 미세한 감쇠 진동을 추출할 수 있는 새로운 도구를 제공한다는 점에서 큰 의미를 가진다. 특히, 잡음의 보편적 각도 분포라는 통계적 특성은 잡음 모델링 자체를 단순화시켜, 복잡한 잡음 환경에서도 J‑매트릭스 기반 분석이 적용 가능함을 시사한다.