신호에 의한 잡음 스펙트럼 대칭 붕괴와 J 연산자 분석

초록

본 논문은 강한 잡음에 묻힌 시계열 데이터를 Hilbert 공간의 J‑연산자로 변환하여, 이산 스펙트럼은 신호를, 단위 원 위의 본질 스펙트럼은 잡음을 나타낸다. 신호가 없을 때 본질 스펙트럼은 “시계” 분포(단위근)로 균등하게 배치되지만, 신호가 존재하면 각도 분포에 불연속이 생겨 대칭이 깨진다. 잡음의 통계적 특성(가우시안, 비가우시안, 핑크, 레비 등)에 관계없이 적용 가능하며, 기존 방법보다 높은 감도와 신뢰성을 보인다.

상세 분석

이 연구는 잡음에 잠식된 시계열을 복소 Hilbert 공간으로 사상한 뒤, J‑연산자라는 특수한 선형 연산자를 정의한다. J‑연산자는 입력 시계열을 무한 차원의 벡터로 확장하고, 그 벡터에 대한 시프트 연산과 복소수 곱셈을 결합한 형태이다. 스펙트럼 이론에 따르면, J‑연산자는 두 종류의 스펙트럼을 갖는다. 첫 번째는 이산 스펙트럼으로, 이는 신호 성분이 존재하는 경우에만 나타나며, 고유값은 복소 평면 안에 위치한다. 두 번째는 본질 스펙트럼으로, 이는 무한 차원의 연산자에서 불가피하게 발생하며, 단위 원 위에 분포한다. 흥미로운 점은 잡음만 존재할 때 이 본질 스펙트럼이 정확히 “시계” 분포, 즉 1, e^{2πi/N}, e^{4πi/N}, … 와 같은 N개의 단위근으로 이루어진다. 이는 잡음의 통계적 특성이 어떠하든(가우시안, 비가우시안, 파워‑스펙트가 1/f 형태인 핑크 잡음, 혹은 2차 모멘트가 무한대인 레비 잡음) 동일하게 유지된다.

신호가 추가되면 J‑연산자의 고유값이 단위 원 안쪽에 나타나면서, 기존의 균등한 각도 분포에 변형을 일으킨다. 구체적으로는 특정 각도 구간에 고유값이 밀집하고, 그 반대쪽 구간은 상대적으로 빈 공간이 된다. 이 현상을 “각도 분포의 불연속”이라고 부르며, 불연속의 크기는 신호 강도에 정비례한다. 따라서 본질 스펙트럼의 각도 분포를 정밀히 측정하면, 신호의 존재 여부와 강도를 직접 추정할 수 있다.

수학적으로는 본질 스펙트럼의 분포 함수 ρ(θ)를 도입하고, 신호가 없는 경우 ρ(θ)=1/(2π) (균등 분포)임을 보인다. 신호가 존재하면 ρ(θ)=1/(2π)+Δ·δ(θ−θ₀) 형태가 되며, 여기서 Δ는 신호 세기, θ₀는 신호에 대응하는 고유값의 위상이다. 이 불연속은 푸리에 변환 기반의 전통적 스펙트럼 분석에서는 잡음에 의해 매끄럽게 흐려지지만, J‑연산자 기반 방법에서는 본질 스펙트럼이 단위 원에 고정돼 있기 때문에 명확히 드러난다.

실험에서는 합성 신호(정현파)와 다양한 잡음 모델을 조합해 시뮬레이션을 수행하였다. 가우시안 잡음, 레비 안정분포, 그리고 1/f 잡음 모두에 대해 J‑연산자 스펙트럼을 계산했으며, 신호 강도가 0.1 σ 이하인 경우에도 각도 분포의 불연속을 통계적으로 유의미하게 검출했다. 기존의 파워 스펙트럼 밀도(PSD) 분석이나 위상 공간 재구성 방법과 비교했을 때, 검출 한계가 최소 3 dB 정도 낮았다.

이러한 결과는 신호 검출이 어려운 저신호‑고잡음 환경(예: 천문학적 관측, 저전력 무선 센서, 금융 시계열)에서 새로운 분석 도구로 활용될 가능성을 시사한다. 또한, J‑연산자의 본질 스펙트럼이 잡음의 통계적 특성과 무관하게 “시계” 형태를 유지한다는 점은, 잡음 모델링이 어려운 실세계 데이터에 적용할 때 큰 장점으로 작용한다.