비가환 토모그래피: 신호 분석을 위한 새로운 확률 변환

초록

본 논문은 비가환 연산자 쌍에 대한 라돈 변환의 일반화인 토모그램을 제안한다. 토모그램은 양의 이중선형 변환으로, 신호를 완전히 기술하며 잡음에 강인한 확률 해석을 제공한다. 1차원·2차원에서 다양한 비가환 연산자 쌍에 대한 구체적 구성법을 제시하고, 시간‑주파수, 시간‑스케일, 시간‑컨포멀 등 여러 도메인에서의 적용 예시를 통해 잡음 제거, 미세 신호 검출, 성분 분리 등에 유용함을 보인다.

상세 분석

논문은 먼저 신호를 힐베르트 공간 𝓗의 벡터 |f⟩ 로 모델링하고, 연산자 군 U(α)=e^{iB(α)} 를 통해 세 종류의 변환을 정의한다. (1) 선형 변환 W_h f(α)=⟨h|U(α)|f⟩ 은 기존 푸리에·웨이브렛 변환을 포함한다. (2) 준분포 Q_f(α)=⟨f|U(α)|f⟩ 은 위그너‑빌레와 같은 비선형 에너지 분포를 재현한다. (3) 토모그램 M_B f(X)=⟨f|δ(B−X)|f⟩ 은 B의 일반화된 고유상태 |X⟩ 에 대한 투영의 제곱 절댓값으로 정의되며, 이는 양의 확률밀도임을 보인다. 특히 δ(B−X) 를 투영 연산자 P_X 로 식별함으로써 M_B f(X)=|⟨X|f⟩|² 라는 간단한 형태를 얻는다.

비가환성은 B가 두 연산자 O₁, O₂ 의 선형 결합 μO₁+νO₂ 로 표현될 때, (μ,ν) 파라미터가 정의하는 직선 혹은 곡선 위에서 신호를 샘플링한다는 의미가 된다. μ와 ν 를 조절하면 시간‑주파수 평면을 전부 스캔할 수 있어, 전통적인 라돈 변환이 직선 적분을 수행하는 것과 유사하지만, 여기서는 비가환 연산자에 대한 “양자화된” 적분을 수행한다는 점이 핵심이다.

구체적으로 1차원 경우, 저자들은 다음 네 가지 연산자를 선택한다: (i) B₁=μt+iν∂_t (시간‑주파수), (ii) B₂=μt+iν(t∂_t+½) (시간‑스케일), (iii) B₃=iμ∂_t+iν(t∂_t+½) (주파수‑스케일), (iv) B₄=μt+iν(t²∂_t+t) (시간‑컨포멀). 각 B_i 에 대해 일반화 고유함수 ψ_i(μ,ν,t,X)를 구하고, 정규화 상수를 통해 토모그램 M_i 를 명시적으로 도출한다. 예를 들어 시간‑주파수 토모그램은
M₁(μ,ν,X)=\frac{1}{2π|ν|}\Big|\int e^{i(μt²/2ν - tX/ν)} f(t)dt\Big|² 로 표현된다.

이러한 토모그램은 ψ_i 가 복소 지수 함수이므로, 실제 계산 시 FFT 기반의 빠른 구현이 가능하다. 또한 ψ_i 가 시간‑주파수 평면에서 특정 곡선을 따라 진동하므로, 신호의 국소적 구조(예: 선형 혹은 이차 챱)와 강하게 상관된다. 저자들은 ψ_i 의 실수부와 허수부를 시각화해, 각 토모그램이 신호의 어느 부분을 강조하는지 직관적으로 보여준다.

2차원 확장에서는 두 변수 (t₁,t₂) 에 대해 B₁=μ₁t₁+ν₁∂{t₁}, B₂=μ₂t₂+ν₂∂{t₂} 와 같은 직교 연산자 쌍을 사용해 M(𝑿,μ,ν) 를 정의한다. 여기서 𝑿=(X₁,X₂) 는 각각의 스펙트럼 변수이며, 전체 토모그램은 두 차원의 라돈 변환과 동일하게 직선 혹은 평면상의 초평면에 대한 적분으로 해석된다. 질량 중심 토모그램 M_cm 은 X₁+X₂=Y 로 제한함으로써 신호의 전체 에너지 중심을 추출한다.

마지막으로 저자들은 토모그램을 연산자 기호화(quantizer‑dequantizer) 프레임워크와 연결한다. 연산자 ˆA 에 대해 f_A(x)=Tr